AI 실험실의 세 가지 기반: 물리 상태 추적과 실험 피드백으로 설계 고치기

배경과 문제

생물학적 탐색 공간은 엄청나게 넓다. 100개 아미노산으로 이루어진 단백질만 해도 이론적으로 20^100가지 서열이 가능하며, 약물 유사 소분자는 10^60개로 추정된다. 이런 공간을 무작위 스크리닝이나 선형적 방법으로 탐색하는 것은 통계적으로 불가능에 가깝다. 최근 대규모 언어 모델(LLM) 기반 에이전트가 문헌 검색, 구조 예측, 생성 설계 도구를 결합해 유망한 후보를 제안할 수 있게 되었지만, 순수한 계산적 탐색은 한계가 있다. 예측 모델은 주로 성공한 실험 결과만 학습해 실패 사례를 반영하지 못하고, VERID 논문이 인용한 일부 단백질 설계 연구에서는 계산상 상위 후보의 60%에서 80% 이상이 발현·접힘 문제 등으로 실험에서 탈락했다. 이번 세 연구 전체에서 새로 측정한 공통 탈락률은 아니다.

더 근본적인 문제는 AI 에이전트의 추론과 물리적 실험 실행 사이의 간극이다. 에이전트는 문법적으로 올바른 로봇 명령을 생성할 수 있지만, 그 명령이 실제 실험실의 물리적 상태에서 안전하고 유효한지는 코드만으로 판단할 수 없다. 예를 들어 8채널 피펫을 좁은 트로프에 내리는 것은 기하학적으로 불가능할 수 있고, 고갈된 웰에서 흡인하는 것은 물류적으로 무효하며, 모델링되지 않은 유체 효과가 과학적 결과를 오염시킬 수 있다. 기존 실험실 자동화는 고정된 프로토콜만 반복할 수 있어 새로운 지식에 적응하지 못하고, 수동 실험은 처리량이 낮고 작업자 간 변동성이 크다. 따라서 에이전트가 실험을 설계하고 실행하며 결과로부터 학습하려면 물리적 상태를 추적하고 검증하는 중간 계층이 필수적이다.

기존 접근의 한계

자율 실험실을 향한 기존 시도는 주로 두 갈래로 나뉜다. 하나는 LLM을 로봇 하드웨어에 직접 연결하는 방식으로, CLAIRify나 ORGANA 같은 시스템이 컴파일러 피드백이나 작업-동작 계획을 사용해 화학 실험을 자동화한다. 그러나 VERID 저자들은 이 시스템들이 지속적인 부피·물리 상태 추적, 중간 오류 복구, 동기화 기록을 함께 제공하는 계층을 갖추지 못했다고 비교한다. 다른 하나는 PyLabRobot 같은 오픈소스 인터페이스로 로봇 명령 생성을 쉽게 만들었지만, 에이전트의 추상적 추론과 실험실 작업대의 물리적 상태 사이의 의미적 간극은 여전히 남는다.

분자 설계 측면에서도 기존 파이프라인은 대부분 단일 실험 패스에 의존한다. AI 공동 과학자나 가상 실험실 같은 시스템은 문헌 기반 가설 생성과 인실리코 토론으로 유망한 후보를 제시하지만, 실제 습식 실험 피드백은 최종 검증 단계에서만 사용된다. 단백질이나 항체 캠페인은 유전자 합성, 클로닝, 발현, 정제 등 7단계 과정을 거쳐 한 라운드에 3~6주가 걸리므로 다중 라운드 반복이 비현실적이다. 전통적인 SELEX 방식은 무작위 라이브러리에서 8~15라운드의 맹목적 선택을 반복하지만 개별 서열이 성공하거나 실패한 이유에 대한 정보를 거의 제공하지 않는다. 계산적 예측 도구도 핵산 앱타머 분야에서는 훈련 데이터 부족으로 무작위 수준의 성능을 보인다.

연구방법을 단계별로

VERID는 PyLabRobot 프레임워크 위에 구축된 의미적 디지털 트윈으로, 네 가지 핵심 서비스를 제공한다. 첫째, 실험실 상태 조회(introspection) API를 통해 에이전트가 현재 웰 부피, 피펫 팁 재고, 데크 배치를 확인할 수 있다. 둘째, 시간 압축 시뮬레이션 엔진이 제안된 명령 블록을 가상 복제본에서 실행해 충돌, 빈 웰, 자원 고갈을 사전에 감지한다. 셋째, 다중 모드 추적 지속성이 상태 스냅샷, 실행 로그, 동기화된 비디오를 하나의 기록으로 묶는다. 넷째, 안전 실행 계층이 검증되지 않은 명령이 물리적 하드웨어에 도달하기 전에 차단한다. 이 구조는 에이전트가 코드만으로는 알 수 없는 물리적 맥락을 이해하고, 실패를 진단하며, 다음 실험을 계획하는 기반이 된다.

앱타머 샌드박스는 단일 가닥 DNA 앱타머를 사용해 폐쇄 루프 분자 발견을 시험한다. 각 라운드에서 에이전트는 이전 라운드의 시퀀싱 데이터를 분석하고 약 1,000개의 후보 서열을 설계한다. 이 후보들은 올리고 풀로 합성되어 자기 비드에 고정된 표적 단백질에 대해 스크리닝되고, 차세대 시퀀싱으로 정량적 농축 프로파일을 반환한다. 앱타머는 DNA 서열 자체가 기능 분자이므로 단백질 발현이나 정제 없이 3단계 벤치 작업으로 약 10일 만에 한 사이클을 완료한다. 에이전트는 분석가, 전략가, 설계자, 스코어러의 4단계 구조로 작동하며, 원시 카운트 행렬로부터 차등 농축 분석, 비드 배경 회귀, 구조 분류를 독립적으로 수행한다.

에피토프 절제는 큰 단백질 표적의 결합 부위만 잘라내 구조 예측 계산을 줄인다. 표준 파이프라인은 RFdiffusion으로 백본을 생성하고 ProteinMPNN으로 서열을 설계한 후 AlphaFold3로 후보-표적 복합체를 재접힘하여 인터페이스 신뢰도 점수(ipSAE)로 순위를 매긴다. 재접힘 비용은 표적 길이에 따라 급격히 증가하지만, 결합체는 표적의 작은 표면 패치에만 접촉한다. 절제는 접촉 잔기와 주변 헤일로만 남기고 나머지를 제거해 복합체를 더 작은 토큰 버킷에 넣는다. 15개 표적·3,666개 설계에서 절제 후 예측한 결합 부위와 원래 설계 모델의 구조 차이는 중앙값 Cα RMSD 0.37 Å였고, FAP의 719개 잔기 세포외 도메인에 대해 GPU 시간을 88% 절감했다.

결과와 숫자의 의미

VERID는 염료와 탈이온수를 사용한 세 사례로 물리적 기반을 검증했다. 첫 사례에서 예상보다 약한 희석과 반복 실험 간 큰 편차가 나타났다. 에이전트의 혼합 부족 가설에 더해, 사람이 동기화된 영상을 검토해 바닥에 염료가 층을 이루고 피펫 끝이 막히는 현상을 확인했다. 이후 수정한 실행은 목표 희석에 가까워졌고, 측정 장치 오류가 나도 저장된 상태를 바탕으로 이미 끝낸 작업을 반복하지 않았다. 두 번째 사례에서는 시뮬레이터가 맞지 않는 장비 배치를 거부하자 실행 계획을 바꾸었고, 에이전트가 후속 비교 실험을 설계해 팁 벽에 남은 액체가 결과를 편향시켰다는 원인을 좁혔다. 핵심은 코드가 실행되는지뿐 아니라 결과를 왜곡하는 물리 현상까지 추적했다는 점이다.

앱타머 캠페인은 두 표적에서 서로 다른 실패 모드를 극복했다. 알파-트롬빈에서는 1라운드에서 고정 프라이머 오버행이 서열의 48%에서 접힘을 방해해 적중률이 0.0%(0/167)였다. 에이전트가 2라운드에서 클램프된 플랭킹 스템을 도입하고 3라운드에서 다양화하면서 적중률이 26.0%(54/208)에서 42.1%(131/311)로 상승했고, 특이도는 98.5%에 도달했다. 미오글로빈에서는 2라운드에서 에이전트가 원시 결합 친화도만 우선시해 G-사중나선 모티프를 63%까지 늘렸지만, 이들 대부분이 비특이적 '끈적한' 결합체로 판명나 특이도가 75.0%에서 19.1%로, 비드 보정 적중률이 10.2%에서 3.7%로 급락했다. 에이전트는 2라운드 데이터에서 이 아티팩트를 진단하고 3라운드에서 비클램프 G4 비율을 1.3%로 줄이고 비G4 스캐폴드로 전환해 특이도를 72.4%로 회복하고 적중률을 33.5%(184/549)로 9.1배 끌어올렸다. 단일 클론 적정으로 8개 후보 중 6개가 농도 의존적 결합을 보였고, 문헌 모티프 변형은 24.6–133 nM의 예비 겉보기 KD를, 엄격한 de novo 후보 중 두 개는 1 µM에서 결합 신호가 나타났으나 겉보기 KD는 1 µM보다 컸고, 나머지 두 개는 측정 범위에서 거의 배경 수준이었다.

에피토프 절제 연구에서 인간-에이전트 하이브리드(Arm B)는 동일한 GPU 예산 상한 아래에서 인간 단독(Arm A)보다 계산 적중률을 5.06%에서 9.33%로 거의 두 배 높였고, GPU 시간은 132.87시간에서 77.18시간으로 42% 줄였다. 완전 자율 에이전트(Arm C)는 6.18%의 적중률을 기록했지만 13개의 서로 다른 에피토프에서 적중을 발견해 더 넓은 표적 부위 탐색을 보여주었다. B-변형은 구조 예측 설정을 변경해 32.62%의 적중률을 기록했지만, 이는 자율성 비교에서 제외된다. 효모 표면 디스플레이 검증에서 4개의 대표 클론이 3.0–9.1 nM의 겉보기 KD를 보여 단일 자릿수 나노몰 결합을 확인했다.

구체적인 예시

VERID의 세 번째 사례는 가려진 염료 혼합물의 조성을 추론하는 과제다. 자동 장치가 혼합물을 준비하고, 에이전트는 제한된 실험 자원과 RGB 카메라 정보로 가설을 시험했다. 별도 측정 장치가 정답을 평가했지만 에이전트는 정답이나 점수를 볼 수 없었다. 한 과제에서는 여러 번 피드백을 받은 솔버의 손실이 85 mnats로 단일 실행 솔버의 205보다 낮았다. 다른 과제에서 다중 실행 솔버는 처음에는 247에서 307로 오히려 나빠졌다. 이때 얻은 물리적 교훈을 다음 과제로 넘기자 최종 손실이 58로 줄었다. 5배 이상이라는 표현은 307/58의 손실 감소를 뜻하며, 정확도나 실험 속도가 보편적으로 5배가 됐다는 의미가 아니다.

앱타머 사례에서는 결합 신호를 높이는 것과 원하는 표적에만 붙는 것을 구별해야 했다. 미오글로빈의 두 번째 라운드에서 에이전트가 고른 구조는 강한 신호를 냈지만, 무관한 단백질과 실험용 비드에도 달라붙었다. 에이전트는 이를 데이터 분석의 함정으로 진단하고, 다음 라운드에서 비특이적 구조의 비중을 줄이며 다른 형태의 후보를 탐색했다. 새 후보군 가운데 H형 슈도노트에서는 37/46인 80.4%, 확장 헤어핀에서는 47/76인 61.8%가 기준을 통과했다. 이는 선택된 구조 집단의 결과이며 모든 새 분자의 성공률은 아니다. 연구의 교훈은 목표 점수가 높아진 이유를 실험 대조군으로 확인하고, 잘못된 보상을 학습했다면 설계 규칙 자체를 고치는 데 있다.

한계와 오해하기 쉬운 점

이 연구들은 서로 다른 수준의 성숙도를 가지며, 통합된 무인 실험실을 의미하지 않는다. VERID 검증은 염료와 물만 사용한 세 가지 사례로, 생물학적 치료 효과나 광범위한 실험 안전성을 보증하지 않는다. 물리 상태를 추적하고 시뮬레이션하는 계층과 LLM의 추론 능력은 구분되어야 한다. 앱타머의 33.5%와 42.1%는 특정 라운드의 새 설계 후보 중 비드 보정 적중률이며, 전체 라이브러리나 실제 약효 성공률로 해석해서는 안 된다. 특히 알파-트롬빈의 42.1%에는 기존 문헌 모티프의 변형이 포함되어 있고, 엄격한 de novo 집단은 106/286=37.1%다. 미오글로빈의 9배 향상은 2라운드 3.7%에서 3라운드 33.5%로의 상대적 증가이며, 처음부터 꾸준히 좋아진 결과가 아니다. 근연 단백질 구별은 검증되지 않았다.

단백질 설계의 8.6배 속도 향상과 GPU 88% 감소는 큰 FAP 표적의 구조 계산 효율에 국한된다. 15개 표적 벤치마크 중 7개는 이미 작은 256 토큰 버킷에 속해 속도 향상이 없었다. 에피토프 절제의 적중률 비교에서 Arm A의 5.06%, Arm B의 9.33%, Arm C의 6.18%는 고정 기준의 계산상 적중률이며, 실제 GPU 사용량은 각각 132.87, 77.18, 124.43시간으로 달랐다. B-변형의 32.62%는 구조 예측 설정까지 달라 자율성 직접 비교에서 제외된다. FAP의 3.0–9.1 nM는 선택된 4개 클론의 효모 디스플레이 겉보기 KD이며, 용해성 단백질 확인, 도메인 특이성, 효소 억제, 치료 효과는 향후 과제다. 앱타머의 24.6–133 nM는 기존 모티프 변형이고 엄격한 de novo 후보는 >1 µM이므로 두 연구의 친화도를 직접 비교해서는 안 된다.

실제로 어떻게 활용할까

VERID는 물리 상태 추적과 기록을 실험 자동화에 함께 설계하는 참고 사례다. 이번 사례 밖의 장비·실험에 적용하려면 해당 환경의 검증이 필요하다. 동기화된 비디오와 실행 로그는 체류 시간, 증발, 플레이트 배치 같은 절차적 변수를 기록해 에이전트가 생물학적 신호와 실험적 잡음을 분리하는 기반을 제공한다. 인간 운영자는 이 기록을 검토해 이상 단계를 진단하고 구조화된 주석을 남길 수 있으며, 이는 에이전트 훈련 아카이브에 피드백된다. 안전 측면에서 모든 프로토콜은 시뮬레이션 게이트를 통과해야 하므로, 검증되지 않은 코드가 로봇에 직접 전달되지 않는다.

앱타머 샌드박스는 빠른 폐쇄 루프 분자 발견의 프로토타입으로, 진단용 바이오센서나 바이오마커 발견 연구에 적용 가능하다. 한 사이클이 7~10일이고 후보당 비용이 1~3달러에 불과해, 에이전트가 여러 라운드에 걸쳐 설계를 반복하고 실패로부터 학습하는 것이 현실적이다. 단백질 설계에서는 에피토프 절제와 인간-에이전트 하이브리드 워크플로우가 큰 세포 표면 수용체나 바이러스 당단백질 같은 표적에 대한 de novo 결합체 설계를 실용적으로 만든다. 이 FAP 계산 비교에서는 인간 연구자가 전략을 정하고 에이전트가 실행과 예산 할당을 맡는 분업이 가장 효율적이었다. 향후 계획은 VERID의 추적 가능한 자동화와 단백질 발견의 폐쇄 루프 학습을 결합하는 것이지만, 이는 아직 실현되지 않았다.