그는 독일에서 온 사람이었고, 우리는 분명 한국의 아름다움을 이야기하고 있었다. 대화 주제는 어째서인지 한국의 개인정보보호 환경으로 옮겨갔고, 이내 2021년으로 거슬러 올라갔다. 그 해, 정부가 내외국인의 출입국 생체정보 약 1억 7000만 건을 당사자 동의 없이 민간 기업에 제공했던 사건이 있었다. 사건은 개인정보보호위원회가 100만 원의 과태료를 부과하며 마무리되었다. 놀란 표정으로 관련 뉴스를 찾아보던 그는 나지막이 말했다. “독일이었으면 내각이 모두 사퇴했을 거예요…”

우리는 늘상 선택지를 고민한다. 하지만 나에게 결정권이 주어지지 않은 것은 무엇인지 묻는 것만큼 사안의 본질에 다가갈 수 있는 질문도 드물다. 물 흐르듯, 어물쩍 결정되어버리는 사안이야말로 중요한 의제다. 내게는 왜 결정권이 없는가? 누가 결정하는가?

지난 13일 통과된 EU 인공지능 법은 위험 정도에 따라 인공지능 서비스에 대한 규제 정도를 달리한다. 교육 분야 인공지능 서비스는 고위험으로 분류된다. 고위험 등급으로 분류된 인공지능 서비스는 높은 수준의 안전성과 정확도가 요구되며, 외부 감사를 위해 상세한 문서와 로그 기록 체계, 위험 최소화를 위한 안전 체계를 갖추어야 한다. 교육과 그 이해관계자를 대하는 조심스러운 태도가 느껴진다.

반면 한국 정부는 과감하다. 교육부는 내년부터 인공지능 디지털 교과서(이하 AI 교과서)를 도입할 계획이다. 민간 기업이 AI 교과서를 개발하는 데에 8백억 원의 예산이 투입된다. 통합학습기록저장소는 정부와 공공기관이 구축한다. 수학, 영어, 정보, 국어(특수교육) 교과를 시작으로 전 과목으로 순차 확대한다. 학생들이 AI 교과서를 이용해 학습하는 과정, 교사의 지도 내용은 데이터로서 수집된다.

교육부는 AI 교과서 도입을 통해 학생에게는 맞춤형 학습 콘텐츠를, 교사에게는 데이터에 기반한 수업 설계를, 학부모에게는 자녀를 더 잘 이해할 수 있는 기회를 제공하겠다고 한다. 뭐, 그럴 수 있다. AI 교과서 도입은 다만 시간문제라고 주장할 수도 있다. 동의하지 않지만, 역시 그럴 수 있다. 하지만 그 모든 사유가 학생, 학부모, 교사가 AI 교과서의 쓸모와 준비 과정에 대해 따져 묻는 것을 막을 수는 없다.

UNESCO의 '인공지능과 교육-정책입안자를 위한 지침'은 교육 분야에 인공지능을 적용할 때 다음 질문들을 따져볼 것을 친절히 제안한다. ▲ 학습 데이터를 윤리적으로 수집 및 활용할 수 있는 경계는 어디까지인가? 그 기준은 무엇인가? ▲ 학교, 학생, 교사가 데이터 수집을 거부하거나 대항할 수 있는 방법은 무엇인가? ▲ 인공지능의 처리 결과를 쉽게 알 수 없다는 것은 어떤 의미인가? ▲ 기업과 공공기관은 어떤 윤리적 의무를 지는가? ▲ 학생들의 일시적인 흥미, 감정과 학습 과정의 복잡성을 고려했을 때 인공지능은 어떠해야 하는가?

교육부가 학생, 학부모, 교사의 물음에 침묵으로 일관하는 만큼 역설적으로 AI 교과서는 중요한 의제가 될 것이다. 참 묻기 좋은 타이밍이다. 결정권은 누구에게 있는가?