인공지능을 사용하여 생물학적 무기를 만드는 시나리오는 가장 심각하고 논의되는 위험 중 하나입니다. 핵 위협과 달리 핵 위협은 거대한 산업 설비가 필요하지만, 생물학적 무기는 정보와 연구소에 대한 접근이 먼저 필요합니다. 인공지능은 이 장벽을 근본적으로 낮추는 데 도움이 될 수 있습니다.

주요 위험: 진입 장벽 감소

주요 위험은 인공지능이 누군가를 죽이고 싶어하기보다는, 인공지능이 생물학적 무기를 작은 그룹이나 심지어 개인에게 쉽게 접근할 수 있게 만들 수 있다는 것입니다. 이전에는 몇 년이 걸리는 교육과 복잡한 자료에 대한 접근이 필요했지만, 이제 인공지능이 지적 작업의 일부를 대신할 수 있습니다.

2026년에 안톱릭 회사는 다른 나라의 연구자들이 그들의 모델을 사용하여 잠재적으로 위험한 생물학적 작업을 수행한 다섯 가지 실제 사례를 설명한 보고서를 출시했습니다. 특히, 한 사용자는 인공지능을 사용하여 칭구니 비르의 독성을 높이고 면역체계를 피할 수 있는 변이를 찾는 계획을 세웠습니다. 다른 연구자는 고감염성 독감 바이러스를 포유동물에 적응시키기 위해 일하고 있으며, 이는 대流行성 잠재력을 높일 수 있습니다.

모델이 위험한 요청에 응답하지 않을 때, 사용자들은 회피 방법을 찾습니다. 한 사례에서 요청은 덜 엄격한 설정을 가진 다른 모델로 전달되었으며, 시스템에 대한 접근은 지리적 제한을 회피하기 위해 제삼자 플랫폼을 통해 이루어졌습니다.

어떻게 발생할 수 있을까: 사건 연쇄

기술적으로 재앙적인 시나리오는 다음과 같게 보일 수 있습니다.

1. 디자인 생성. 인공지능은 대량의 생물학 데이터를 기반으로 새로운 patogene의 유전체를 설계합니다. 이미 인공지능이 처음부터 기능적인 바이러스를 만든 실험들이 있습니다. 이는 생존 가능한 유전적 연속성을 생성할 가능성을 증명했습니다.
2. 특성 최적화. 모델은 바이러스가 더 감염성이나 기존 백신과 약물에 대한 저항성을 높이기 위해 필요한 변이를 제안할 수 있습니다.
3. 合成 및 조립. 디자인은 연구소로 전달되어 DNA를 합성합니다. 이는 가장 어려운 물리적 단계로, 장비와 자료가 필요하지만, 인공지능은 물류 계획과 심지어 위험한 연속성의 합성 주문을 가려내는 데 도움을 줄 수 있습니다.
4. spread. 준비된 patogene는 목표 인구에 분사되거나 다른 방식으로 방출됩니다.

이렇게 하면 어려운 이유는 무엇인가요, 그러나 불가능은 아닙니다

이 시나리오를 구현하는 데는 심각한 장애물이 있습니다.

물리적 제한: 인공지능은 볼륨에서 바이러스를 형성할 수 없습니다. 이를 위해 실제 연구소, 장비 및 자료가 필요합니다. 전문가들은 인간에게 위험한 바이러스를 생산하기 위해 박테리아보다 많은 노력, 시간 및 돈이 필요하다고 지적합니다.

생물학의 불확실성: 생물학적 시스템은 무질서적입니다. 설계된 patogene는 변이하거나 치명력을 잃을 수 있으며, 더 나아가 제작자에게 돌아올 수 있습니다. 이러한 불확실성 때문에 많은 국가가 공격적인 생물학 프로그램을 포기했습니다.

보호 메커니즘: 인공지능을 개발하는 회사들은 위험한 요청을 차단하는 필터를 도입하고 있습니다. 그러나 보고서에 따르면 이러한 필터는 회피될 수 있으며, 절대적인 악의자에 대해 항상 효과적이지 않습니다.

대응할 수 있는 방법

전문가들은多层 보호 조치가 필요하다고 일치합니다. 이미 다음 접근 방식이 논의되고 있습니다.

• 합성 유전자 필터링 의무화. 합성된 유전자를 판매하는 회사는 고객이 위험한 연속성을 주문하고 있는지 확인해야 합니다.
• 국제 규제. 존재하는 생물학적 무기 협정은 낡았으며, 인공지능의 도전에 맞지 않습니다. 인공지능 모델과 생물학적 자료를 모두 포함하는 새로운 조약이 필요합니다.
• 빠른 경고. 새로운 질병 발병을 빠르게 발견하는 시스템을 구축하여 제약 요인이 될 수 있습니다.

따라서 인공지능은 자체적으로 생물학적 무기를 만들지 않지만, 그러한 의도와 연구소에 접근할 수 있는 사람들에게 강력한 가속기와 조언자로서의 역할을 합니다. 위험은 이 분야에 진입하는 장벽이 공포스럽게 낮아지는 것입니다.

Permanent link to this publication: