에이전트형 AI의 안전성은 도구의 문제가 아니라 데이터 가시성의 문제이며, 기업은 데이터의 수집, 복제, 요약, 재사용 경로를 추적하는 데이터 리니지를 구축할 필요가 있다. 기사는 영업 담당자를 위한 AI 에이전트가 제한된 가격 정보, 사내 커뮤니케이션, 과거 견적서를 가져온 뒤, 후속 에이전트가 작성한 제안서에 승인되지 않은 기밀 정보가 포함되었지만 문제의 데이터가 어디에서 섞여 들어갔는지 추적하지 못한 사례를 든다. 애플리케이션, 시스템, 네트워크, 엔드포인트에 초점을 맞춘 기존 방식만으로는 부족하다고 지적한다.
Evo 2, Genos, Google DeepMind의 AlphaGenome 같은 게놈 기반 모델은 기존 사례에서 상관관계를 학습해 염기서열 차이의 영향을 예측하지만, 게놈의 조절 메커니즘을 풀기에 충분한 데이터는 아직 없다. 인간 게놈에서 유전자가 차지하는 비율은 약 2%에 불과하며, 유전자의 켜짐과 꺼짐을 제어하는 조절 기작이 이해의 핵심이다. 연구자들 사이에서는 블랙박스 방식으로는 진정한 이해에 이를 수 없다는 시각도 나오고 있다.
Google DeepMind의 Pushmeet Kohli와 Biohub의 Sal Candido가 Brandon Anderson의 사회로 AlphaFold가 단백질 폴딩 문제를 해결하지 못한 이유를 논의한다. 논의 주제에는 단백질 동역학, 무질서 영역, 정적 구조 예측의 한계가 포함된다. 연산 자원이나 데이터를 늘리는 것만으로는 생물학 문제를 풀 수 없으며, 적절한 스케일링 법칙을 찾는 것이 중요하다고 한다.
Nathan Lambert는 AI 에이전트 덕분에 인프라와 엔지니어링이 몇 년 안에 크게 가속화되겠지만, 모델의 본질이 극적으로 바뀌지는 않으며 범용 초지능으로 이어지지도 않을 것이라고 전망하고 있다. 추론 비용은 몇 년에 걸쳐 거의 지수함수적으로 떨어지고, 아키텍처와 데이터 선택에 관한 사전 학습 연구의 자동화도 2~3년 안에 현실화될 것으로 본다. RL 환경의 품질 개선도 단기적으로 여지가 큰 분야로 꼽았다.
