정부가 인공지능(AI) 디지털교과서 검정 결과를 발표한 바로 다음날 ‘AI 챗봇(대화로봇)이 독도=분쟁지역 등의 답변을 하는지’ 여부를 알려달라고 교과서 제작사에 요청한 사실이 확인됐다.

교육부가 “‘독도는 영토분쟁지역’이라는 답변이 AI 교과서에 단 하나도 들어갈 수 없다”고 공언한지 이틀 만이다. 정부 스스로 AI교과서의 오류 가능성을 인정한 셈이다. 3개월여 앞둔 AI 교과서 도입을 두고 교육계의 우려가 커지고 있다.

정부, 교과서 검정 결과 발표 다음날 “독도 동해 관련 AI 챗봇 답변 확인하라”

1일 취재를 종합하면 AI 교과서 검정을 맡은 한국교육과정평가원(평가원)은 지난달 30일 오전 교과서 제작사들에 연락해 “(AI 교과서) 수정본 검토 이후에도 지속적인 수정이 이뤄지고 있다”며 “AI 교과서에 탑재된 AI 챗봇이 언론에 제기된 ‘독도는 분쟁지역’ 등 공통 기준을 위반하는 답변을 하는지 확인을 부탁한다”고 했다. 평가원은 특히 ‘독도’ ‘동해’와 관련된 AI 챗봇의 답변을 확인해달라고 요청했다.

AI 교과서에 담긴 AI 챗봇은 생성형 AI를 기반으로 학생이나 교사가 묻는 질문에 답변을 하는 기능을 수행한다.

검정 발표 이후 이뤄진 평가원의 AI 챗봇 오류 확인 요청은 교육부가 지난달 28일 백브리핑에서 “그런 것(독도는 영토분쟁지역)이 AI 교과서에는 단 하나도 들어갈 수 없다”고 단언한 점과 배치된다.

정부가 공식적으로는 오류 가능성을 전면 부인했지만, 내부적으로는 불완전한 AI 챗봇 기능을 인지하고 교과서 제작사를 통해 뒤늦게 AI 챗봇 답변을 점검하고 있는 것으로 보인다.

그간 AI 전문가들은 AI 챗봇 기능 활용을 두고 지속적으로 우려를 표했다. AI 교과서 시제품을 사용해 본 전문가는 “현재 기술 수준으로 AI 교과서에 오류없는 생성형 AI를 탑재하는 것은 매우 까다롭다”며 “공교육에서 생성형 AI 활용은 오랜 검증과 감수가 필수인데, (정부가)생성형 AI 기능이 담긴 AI 교과서 도입을 너무 성급히 추진하고 있다”고 했다.

한국교육과정평가원이 교과서 제작사에 보낸 공지 내용 발췌

평가원이 교과서 제작사에 “검정 심사과정에서 (헌법 등) 공통기준 준수 여부를 확인했으나 수정본 검토 이후에도 지속적인 수정이 이뤄지고 있다”고 알린 점은 촉박한 일정 속에서 AI 교과서 검정이 이뤄진 점을 방증한다. 정부의 우려처럼 향후 수정 과정에서 AI 교과서에 담긴 생성형 AI의 오류가 추가될 가능성도 배제할 수 없다.

평가원이 주말인 지난달 30일 오전 교과서 제작사 측에 AI 챗봇의 기능검증을 요청하면서 답신 기한을 다음날 오전 11시까지로 정한 점에서도 정부의 다급함이 드러난다. 24시간 안에 AI 교과서에 실린 AI 챗봇 기능을 점검하라는 평가원 측 지시에 다수의 교과서 제작사는 곤란함을 호소한 것으로 알려졌다.

https://n.news.naver.com/mnews/article/032/0003335802?sid=102