인공지능(AI)은 STEM 교육에서 점점 더 영향력을 갖고 있습니다. AI 도구는 이제 자동 채점, 개인 맞춤형 피드백, 튜터링 및 학습 분석을 지원할 수 있습니다. 하지만 딥러닝 모델과 대형 언어 모델(LLM) 등 많은 첨단 AI 시스템은 '블랙박스'처럼 작동합니다. 점수나 피드백을 제공할 수는 있지만, 교육자, 학생, 연구자들이 AI가 생성한 의사결정이 어떻게 이루어지는지 이해하기는 어렵습니다.

최근 출간된 오픈 액세스 도서 『STEM 교육 연구를 위한 인공지능』에서는 "STEM 교육 연구에서의 설명 가능한 AI" 장이 이 문제를 다루고 있습니다. 이 연구는 핵심 설명 가능한 AI 접근법을 소개하고, 신뢰, 진단 통찰, 교수적 의사결정, 책임 있는 AI 통합을 STEM 학습 환경에서 어떻게 지원할 수 있는지를 논의함으로써 AI 시스템이 STEM 교육에 더 투명하고 해석 가능하며 유용하게 만드는 방법을 검토합니다.

설명 가능한 AI, 흔히 XAI라고 불리는 것은 사람들이 AI 모델의 예측 뒤에 있는 이유를 이해하고 신뢰하며 잠재적으로 통제할 수 있도록 돕는 방법과 원칙을 의미합니다. 교육에서 설명 가능성은 단순한 기술적 문제가 아니라 교육적, 윤리적 문제이기도 합니다.

AI가 채점이나 피드백 생성에 사용될 때, 교육자는 시스템이 학습의 의미 있는 증거에 집중하고 있는지 알아야 합니다. AI 피드백이 답변이 왜 강하거나 불완전한지, 부정확한 이유를 이해하는 데 도움을 줄 때도 학생들에게 혜택을 줍니다. 연구자들은 AI 모델이 학습 이론, 평가 프레임워크 및 학문 분야 기대치와 일치하는지 평가하기 위해 설명 가능성이 필요합니다.

선형 및 트리 기반 모델처럼 설계상 이해하기 쉬운 AI 모델도 있습니다. 선형 모델은 학습 시간이나 이전 성과와 같은 한 요인이 예측된 결과와 어떻게 연관되는지 보여주는 데 도움을 줄 수 있습니다. 트리 기반 모델은 결과를 이끄는 일련의 결정 규칙을 보여줄 수 있습니다. 이 모델들은 AI 예측의 논리를 가시화합니다.

더 복잡한 AI 시스템을 설명하기 위해 고안된 다른 방법들도 있습니다. 한 가지 접근법은 '만약에' 추론, 즉 반사실적 설명을 사용하여 예측을 지침으로 전환하는 것입니다. 예를 들어, AI 도구는 학생이 핵심 과학적 아이디어를 추가하거나 오해를 바로잡으면 반응이 어떻게 개선될 수 있는지 보여줄 수 있습니다. 이런 설명은 AI 점수를 유용한 피드백으로 바꿀 수 있습니다.

또 다른 접근법은 학생의 작업 중 AI에게 가장 중요했던 부분을 식별하는 데 도움을 줍니다. 예를 들어, 자동 채점에서는 설명 가능한 AI가 학생 응답에서 광합성이나 에너지 변환과 같은 중요한 개념을 인식했는지 보여주는 데 도움을 줄 수 있습니다. 이를 통해 교사들은 AI가 주의를 기울이고 의미 있는 징계 내용을 감지하는지 판단할 수 있습니다.

ChatGPT와 다른 LLM들은 또 다른 중요한 문제를 제기합니다. 이러한 도구들은 일상 언어로 작성된 질문에 반응하기 때문에, 사용자가 질문하는 방식이 중요합니다. 명확한 프롬프트, 관련 예시, 배경 정보, 단계별 추론은 AI 상호작용을 더 가시화하고 다듬기 쉽게 만듭니다. 맥락 내 예시, 지식 증강, 사고 연쇄 프롬프트와 같은 전략은 LLM이 더 해석 가능하고 교수에 유용한 응답을 유도하는 데 도움을 줍니다.

전반적으로 핵심 메시지는 STEM 교육에서 AI를 정확성만으로 판단해서는 안 된다는 것입니다. 점수, 추천, 피드백 메시지는 사람들이 그 이유를 이해할 때 더 가치 있게 전달됩니다. XAI는 모델 출력을 학생의 추론, 오해, 학문적 이해, 시간에 따른 진보 등 교육자들이 중요하게 여기는 증거 유형과 연결하는 데 도움을 줄 수 있습니다.

AI가 계속 진화함에 따라, STEM 교육에서 AI의 역할은 AI 연구자, 교육자, 학습 과학자 및 평가 전문가 간의 지속적인 협력이 필요하며, 이를 통해 AI 도구가 인간 중심으로 유지되도록 해야 합니다. 교육 시스템 내 변혁으로 여겨지지만, 성공 여부는 얼마나 신중하게 실행되느냐에 달려 있으며, 교육자들이 AI 사용 방식, 중요한 증거, 그리고 AI가 생성한 통찰이 교수와 학습에 어떻게 기여해야 하는지에 관한 결정의 중심에 있어야 한다는 점이 매우 중요합니다. 전반적으로 책임감 있게 사용된다면 AI는 피드백 개선, 평가 지원, 이해 심화, 학생들의 미래 준비에 강력한 도구가 될 수 있습니다. 설명 가능한 AI는 그 미래를 신뢰할 수 있고 인간의 학습과 일치시키는 데 중요한 부분입니다.