몬트리올, 2026년 2월 4일 -- 2026 국제 AI 안전 보고서(2026 International AI Safety Report)가 2월 3일 공개돼 범용 인공지능의 역량, 새롭게 부상하는 위험, 그리고 현재의 위험 관리 및 안전장치 현황에 대해 최신 정보를 반영한 국제 공동의 과학적 평가를 제공한다.

튜링상 수상자인 요슈아 벤지오(Yoshua Bengio)가 의장을 맡은 이번 두 번째 보고서는 100명 이상의 국제 전문가가 참여했으며, EU, OECD, UN을 포함한 30개국 이상의 국가 및 국제기구 추천 인사로 구성된 전문가 자문위원단의 지원을 받았다. 보고서의 주요 결과는 이달 말 인도가 주최하는 AI 임팩트 서밋(AI Impact Summit) 논의에 활용될 예정이다.

보고서의 주요 내용은 다음과 같다.

• 범용 AI의 역량은 특히 수학, 코딩 및 자율 운영 분야에서 빠르게 향상되고 있다. 2025년에는 선도적인 AI 시스템이 국제수학올림피아드 문제에서 금메달 수준의 성과를 달성했고, 과학 벤치마크에서는 박사급 전문가의 성과를 넘어섰으며, 인간 프로그래머가 수 시간 소요하는 일부 소프트웨어 엔지니어링 작업을 자율적으로 수행할 수 있게 됐다. 다만 성능은 여전히 '들쭉날쭉한' 양상을 보이며, 겉보기에는 단순해 보이는 일부 과제에서는 여전히 실패하고 있다.
• AI 도입은 빠르지만 불균등하게 확산되고 있다. AI는 개인용 컴퓨터와 같은 이전 기술보다 더 빠르게 도입됐으며, 현재 최소 7억 명이 주요 AI 시스템을 매주 사용하고 있다. 일부 국가에서는 인구의 절반 이상이 AI를 사용하고 있으나, 아프리카, 아시아, 라틴아메리카의 상당수 지역에서는 추정 도입률이 여전히 10% 미만에 머물러 있다.
• 딥페이크 관련 사건이 증가하고 있다. AI 딥페이크는 사기 및 스캠에 점점 더 많이 사용되고 있다. 여성과 소녀에게 불균형적으로 영향을 미치는 AI 생성 비동의 성적인 이미지 또한 점점 흔해지고 있다. 예를 들어, 한 연구에 따르면 인기 있는 '누디파이(nudify)' 앱 20개 중 19개가 여성의 옷을 제거하는 시뮬레이션에 특화된 것으로 나타났다.
• 생물학적 오용에 대한 우려는 일부 선도적 모델에 대해 더 강력한 안전장치를 촉발했다. 2025년에는 배포 전 테스트에서 AI 시스템이 초보자가 생물무기를 개발하는 데 실질적으로 도움을 줄 가능성을 배제할 수 없다는 판단이 나오면서, 여러 AI 기업이 안전장치를 강화한 신규 모델을 출시했다.
• 범죄자 등 악의적 행위자들은 사이버 공격에 범용 AI를 적극적으로 활용하고 있다. AI 시스템은 유해한 코드를 생성하고 범죄자가 악용할 수 있는 소프트웨어 취약점을 발견할 수 있다. 2025년에는 한 AI 에이전트가 주요 사이버보안 대회에서 상위 5% 팀에 들었다. 현재 암시장에서는 공격에 필요한 기술 장벽을 낮춰주는 패키지형 AI 도구가 판매되고 있다.
• 많은 안전장치가 개선되고 있지만, 현재의 위험 관리 기술은 여전히 오류 가능성이 있다. '환각(hallucination)' 현상과 같은 특정 유형의 오류는 감소했으나, 일부 모델은 평가 환경과 실제 배포 환경을 구분하고 이에 따라 행동을 바꿀 수 있는 능력을 갖추게 되면서 평가 및 안전성 시험과 관련한 새로운 과제가 발생하고 있다.

몬트리올대학교 정교수이자 로우제로(LawZero) 과학 책임자, 밀라-퀘벡 AI 연구소(Mila - Quebec AI Institute) 과학 자문위원인 요슈아 벤지오 보고서 의장은 다음과 같이 말했다.
"1년 전 첫 국제 AI 안전 보고서가 발표된 이후, 모델 역량뿐 아니라 잠재적 위험 또한 현저히 증가했으며, 기술 발전 속도와 효과적인 안전장치를 구현하는 우리의 역량 간 격차는 여전히 중대한 과제로 남아 있다. 본 보고서는 AI를 안전하고 보안이 유지되며 모두에게 이로운 미래로 이끌기 위해 정책 결정자에게 필요한 엄정한 근거를 제공하는 것을 목표로 한다. 두 번째 보고서를 통해 우리는 글로벌 차원에서 급속히 진화하는 최전선 AI에 대한 공동의 과학적 이해를 업데이트하고 강화하고자 한다."

영국의 카니슈카 나라얀(Kanishka Narayan) AI 총괄 장관은 다음과 같은 의견을 밝혔다.
"AI에 대한 신뢰와 확신은 그 잠재력을 온전히 실현하는 데 필수적이다. AI는 더 나은 공공 서비스, 새로운 일자리 기회, 삶을 변화시키는 혁신을 제공할 기술이다. 그러나 우리는 이 기술이 발전함에 따라 사람들의 안전을 지키는 데에도 확고한 의지를 갖추고 있다. 책임 있는 AI 개발은 공동의 우선 과제이며, 협력을 통해서만 긍정적 변화를 이끄는 방향으로 미래를 설계할 수 있다. 이 보고서는 전 세계 전문가들을 한데 모아 오늘날 올바른 결정을 내릴 수 있는 강력한 과학적 근거를 제공함으로써, 더 밝고 안전한 미래의 토대를 마련하는 데 기여한다."

국제 AI 안전 보고서 소개

국제 AI 안전 보고서는 첨단 AI 시스템의 역량과 위험에 대한 증거를 종합한 보고서다. 이 보고서는 정책 결정자를 위한 근거를 제공함으로써 전 세계적으로 정보에 기반한 정책 수립을 지원하는 것을 목표로 한다. 요슈아 벤지오 교수가 의장을 맡고 100명 이상의 독립 전문가가 집필했으며, EU, OECD, UN을 포함한 30개국 이상의 국가 및 국제기구 추천 인사로 구성된 전문가 자문위원단의 지원을 받고 있다. AI의 막대한 잠재적 이점을 인정하면서도, 보고서는 모든 사람의 이익을 위해 AI가 안전하게 개발되고 활용되도록 위험을 식별하고 완화 전략을 평가하는 데 초점을 두고 있다. 본 보고서는 영국 정부의 위촉으로 작성됐으며, 영국 AI 보안 연구소(UK AI Security Institute)에 설치된 사무국이 운영 지원을 제공했다.