과학기술정보통신부 서울 서초구 엘타워에서 정보통신정책연구원(KISDI)과 한국정보통신기술협회(TTA)와 제2차 인공지능(AI) 윤리 정책 포럼을 열어 초거대 생성형 AI 활용 촉진을 위한 정책적 고려사항을 토론했다.

인공지능 윤리 정책 포럼은 AI의 윤리적 개발과 활용을 위한 논의와 신뢰성 검·인증 등 정책에 관한 의견을 모으기 위해 지난 4월 2기 포럼이 출범했다.

김명주 서울여대 정보보호학과 교수를 위원장으로 윤리·기술·교육 분과에서 전문가 30명이 포럼위원으로 활동하고 있다.

5일 윤리 분과 위원인 노태영 김앤장 법률사무소 변호사는 개인 법률상담이나 기업의 계약서 작성 등에 사용될 수 있는 생성형 AI는 민감한 정보를 처리하고 결과를 산출하는 과정에 대한 설명이 어려워 안전성, 책임성, 등이 고려되어야 한다고 강조했다.

기술 분과 위원인 김지관 한국IBM 실장은 기업이 데이터와 AI 모델의 소유·사용 주체를 명확히 하고 관리할 수 있도록 정부에서 가이드라인을 제시할 필요가 있다고 제언했다.

교육 분과 세션에서 아티피셜소사이어티 김기영 대표는 "향후 교육 분야에서 생성형 인공지능의 활용도가 높아질 것으로 예상되나 다른 영역에 비해 엄격한 윤리적 기준이 적용되어야 하므로 인간 전문가에 의한 감수·평가가 여전히 중요할 것"이라고 진단했다.

엄열 과기정통부 인공지능기반정책관은 "인공지능 윤리 정책 포럼에서 논의된 사항을 반영해 기업이 자율적으로 AI 윤리·신뢰성을 확보할 수 있도록 가이드라인 제시 및 검증 체계 마련 등을 지원하겠다"고 말했다.