미국 MIT  케빈 에스벨트  교수 “AI가 바이러스 설계 도움 줘”

전문성 없는 학생도 1시간이면 위험한 바이러스 후보군 얻어

바이러스 관련 정보 공개 위험… AI 학습 데이터 제한해야

챗GPT (ChatGPT) 출시 이후 빠르게 발전하는 인공지능 (AI) 기술에 대한 우려가 높아지는 가운데, AI가 신종 코로나바이러스 감염증 (코로나19)의 차기 팬데믹을 만들 수 있다는 우려가 나온다. AI가 테러리스트 집단에 의해 악용될 경우 생물무기를 설계하는 데 사용될 위험이 있다는 경고다.

세계적인 생물학자인 케빈 에스벨트 매사추세츠공대 (MIT) 미디어랩 교수는 국제 학술지 사이언스에 AI가 전염병을 촉발할 수 있는 바이러스를 설계하고 주문하는 데 도움을 줄 수 있다고 6월 14일 밝혔다. 에스벨트 교수는 2016년 크리스퍼 유전자 편집의 연구 윤리 문제를 제기해 국제 학술지 네이처가 선정한 올해의 과학자에 이름을 올린 인물이다.

에스벨트 교수는 학생들이 챗GPT 같은 초거대 언어 모델 (LLM)의 도움을 받아 위험한 바이러스를 만들 수 있는지 확인한 연구 결과를 논문 사전 공개 사이트인 아카이브 (arXiv)에 6월 6일 공개했다. 실험에 참여한 학생들은 과학 전문 지식을 갖고 있지 않았지만, 실험이 시작한 지 불과 한 시간이 지나자 후보 바이러스와 병원체 유전자 코드를 합성하는 데 도움을 줄 수 있는 회사 등의 목록을 제시했다.

오픈AI의 챗GPT와 구글의 바드 같은 챗봇은 위험한 질문에 직접적으로 대답하지 않지만, 단순한 탈옥 (AI 설정을 피해 허용하지 않는 답변을 얻는 행위) 문구로 답변을 얻어낼 수 있는 것으로 나타났다. 과학자가 아닌 사람도 AI를 활용해 핵무기만큼 위협적인 생물 무기를 설계할 수 있다는 사실이 드러난 셈이다.

에스벨트 교수는 생물보안 전문가들이 바이러스 서열 등의 정보를 공개적으로 교환하는 생물학계의 문화에 우려를 표했다. 특히 정보를 공유하는 생물학계의 경향은 코로나19 팬데믹 이후 강해졌는데, 바이러스를 공개적으로 설명하는 논문이 테러 집단에 생물 무기 청사진을 제공할 수 있다. 물론 생물 무기를 구현하는 데에는 전문적인 지식이 필요했지만, AI가 발전하면서 쉽게 생물무기를 얻을 수 있다는 게 에스벨트 교수의 설명이다.

에스벨트 교수는 AI 엔진이 학습 데이터로 사용할 수 있는 정보를 제한해야 한다고 주장했다. 그는 “병원체 생성과 강화를 위한 방법을 설명하는 극소수의 논문을 AI가 사용할 수 있는 데이터에서 제외해야 한다”며 “이런 논문만 빼도 AI의 거의 모든 위험을 제거할 수 있다”고 밝혔다.

핵과 생물보안 위협을 줄이기 위해 활동하는 비정부 기구도 에스벨트 교수 주장에 동의했다. 핵 위협 이니셔티브 (Nuclear Threat Initiative·NTI)의 글로벌 공공 정책을 담당하는 제이미 야시프는 “빠르게 발전하는 AI 도입으로 공학 생명체에 대한 접근 장벽이 낮아지고 있다”며 “이것은 위험을 극적으로 증가시키고 있다”고 말했다. 이어 “디지털 정보에서 생물학적 시스템으로 이동하는 모든 관문에서 향상된 제어가 필요하다”고 강조했다.

* 참고 

Science, DOI: https://doi.org/10.1126/science.adj2463

arXiv, DOI: https://doi.org/10.48550/arXiv.2306.03809

* 출처: 사이언스조선 테크놀로지