최근 급속도로 발전하는 인공지능(AI) 기술에 대한 안전성 확보가 전 세계적인 과제로 떠오르고 있다. 이러한 가운데, AI 안전 거버넌스 구축 및 국제 협력 강화를 모색하기 위한 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 오는 10월 28일부터 29일까지 양일간 서울 호텔 나루 엠갤러리에서 개최된다.
이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로, 과학기술정보통신부(이하 과기정통부)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관한다. 국내외 학계, 산업계, 정부 관계자 등 150여 명의 전문가들이 참여하여 AI 안전 거버넌스, 평가, 그리고 레드티밍(red teaming)의 현주소를 점검하고 미래 협력 방향을 논의할 예정이다.
AI 안전 확보를 위한 각국의 AI안전연구소(AISI) 활동이 첫날인 28일 집중적으로 소개된다. 일본, 싱가포르, 유럽연합(EU) 등 주요국의 AI안전연구소 소장들이 참여하여 각 기관의 성과와 향후 계획을 발표하고, 실질적인 국제 협력 방안을 모색한다. 더불어 국내 LG AI연구원, 네이버 클라우드를 비롯해 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI) 등 글로벌 AI 개발 기업 및 기관들이 참여하여 AI 모델의 안전성 확보와 평가 체계에 대한 심도 있는 논의를 이어갈 전망이다. 마지막 세션에서는 한국 인공지능안전연구소 실무책임자들이 참여하는 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가, 정책, 연구 추진 방향이 공유될 예정이다.
둘째 날인 29일에는 AI 안전 평가 방법론에 초점을 맞춘 기술 논의 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계 주요 AI 평가기관 및 연구자들이 세션 연사로 참여하여 AI 시스템의 위험을 식별, 평가, 완화하기 위한 기술적 접근 방식을 심도 있게 다룬다. 또한, 워크샵에서는 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이 마련되며, 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 양해각서(MOU) 체결식을 통해 AI 안전 연구 및 평가 협력의 글로벌 기반을 강화하는 성과도 기대된다.
이번 포럼은 한국이 AI 시스템의 위험을 선제적으로 관리하고, 국가 간 AI 안전 거버넌스 협력 체계를 공고히 하는 국제적 논의의 장을 주도적으로 열어간다는 점에서 큰 의미를 지닌다. 포럼의 성공적인 개최를 통해 보다 안전한 AI 세상으로 나아가는 글로벌 협력의 중요한 발판이 마련될 것으로 전망된다.
답글 남기기