고도화되는 인공지능(AI) 기술 발전 속에서 AI 시스템의 잠재적 위험에 대한 우려가 커지고 있다. 이러한 문제를 해결하기 위해, 과학기술정보통신부(이하 과기정통부)는 한국전자통신연구원 인공지능안전연구소와 함께 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’을 개최한다. 이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’이라는 주제 아래, AI 안전에 대한 국제적인 논의를 주도하고 구체적인 협력 방안을 모색하려는 시도이다.
국내외 학계, 산업계, 정부 관계자 등 150여 명의 전문가들이 2025년 10월 28일부터 29일까지 호텔 나루 서울 엠갤러리에서 모여 AI 안전 거버넌스, 평가, 그리고 레드티밍(red teaming)의 현황을 점검하고 향후 나아갈 방향을 논의한다. 레드티밍은 AI 모델의 취약점, 편향, 악용 가능성을 미리 파악하고 개선하는 AI 안전 관리의 핵심 절차로, 이번 포럼에서도 중점적으로 다뤄질 예정이다.
포럼 첫날인 28일에는 각국의 AI 안전 연구소, 프론티어 AI 모델 개발 기관, 그리고 AI 평가 전문 기관들이 참여하여 각자의 성과와 계획을 공유한다. 일본, 싱가포르, 유럽연합(EU) 등에서 온 AI 안전 연구소의 핵심 리더들은 국제 협력의 실질적인 방안을 모색할 예정이다. 또한 LG AI연구원, 네이버 클라우드를 비롯하여 앤트로픽(Anthropic), 구글(Google) 등 세계적인 AI 개발 기업 및 기관들도 참여하여 AI 모델의 안전성 확보와 평가 체계에 대한 심도 있는 논의를 진행한다. 한국의 AI 안전 평가, 정책, 연구 추진 방향은 ‘Korea AISI 대화 세션’을 통해 공유될 예정이다.
둘째 날인 29일에는 AI 안전 평가 방법론에 초점을 맞춘 기술 논의 중심의 워크샵이 열린다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계 유수의 AI 평가기관 및 연구자들이 세션 연사로 참여하여 실습 기반의 레드티밍 세션을 진행한다. 특히, 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 MOU 체결은 AI 안전 연구와 평가 협력을 위한 글로벌 기반을 더욱 강화할 것으로 기대된다.
이번 ‘2025 인공지능 안전 서울 포럼’은 AI 시스템의 위험을 식별, 평가, 완화하기 위한 기술적 접근법을 모색하고, 국가 간 AI 안전 거버넌스 협력 체계를 공고히 하는 국제적 논의의 장을 한국이 주도적으로 열어간다는 점에서 큰 의미를 갖는다. 이러한 국제적 노력을 통해 AI 기술 발전이 가져올 긍정적인 미래를 안전하게 실현해 나갈 수 있을 것으로 전망된다.
답글 남기기