AI 생성 텍스트를 표시하는 도구는 유용할 수 있지만, 주의가 필수적입니다.
학생들이 숙제 도움을 받기 위해 AI 도구를 점점 더 많이 활용함에 따라, 교사와 교수들은 학문적 진실성을 보장하는 탐정 역할을 맡게 되었습니다. 에세이를 쓴 사람이 학생이었나요, 아니면 ChatGPT였나요? AI 탐지기가 도움을 주어 교사들이 학생들의 제출물 내 AI 생성 텍스트를 식별하는 데 도움을 주었습니다. 하지만 이 도구들은 완벽과는 거리가 멀었습니다.
AI 생성 에세이 탐지기를 처음 개발한 이래로 광범위하게 연구해온 과학자로서, 다시 한 번 강조하자면: 어떤 AI 탐지기도 완벽한 정확성을 달성할 수 없습니다. 서로 다른 탐지기는 에세이를 잘못 분류할 수 있습니다—진짜 인간 글을 AI가 생성한 것으로 잘못 표시하거나, AI가 생성한 콘텐츠를 완전히 포착하지 못하는 경우—이는 신중한 사용과 검증의 필요성을 강조합니다.
올해 초 동료들과 함께 진행한 연구 를 바탕으로, 교사와 교수들이 AI 감지기를 책임감 있게 사용할 수 있는 몇 가지 팁을 소개합니다.
라벨을 읽어보세요. 어떤 AI 탐지기도 완벽하지 않습니다. 특정 도구를 사용할 때는 해당 도구가 보고하는 탐지 정확도에 주의하세요. 예를 들어, OpenAI는 자체 탐지 기가 AI 생성 텍스트를 26%만 정확히 식별했고, 인간이 작성한 텍스트는 9%만 AI 생성으로 잘못 표시했다고 밝혔습니다; 그들은 6개월 후 이 도구를 종료했습니다.
텍스트 길이가 중요합니다. 긴 텍스트가 AI 탐지기를 통해 더 신뢰할 만한 결과를 얻을 수 있습니다. 즉, AI가 한 단어인지 짧은 문장인지 판단하는 것은 사실상 불가능합니다. 우리 연구는 신뢰할 수 있는 탐지를 위해 텍스트 길이가 최소 50단어 이상임을 제안했습니다.
AI 감지기는 인간과 AI가 공동 만든 콘텐츠를 신뢰성 있게 표시하지 못합니다. 인간과 AI가 협력할 때 AI 생성 텍스트의 정의와 탐지는 모호해집니다. 각 과제에서 허용되는 AI 생성 콘텐츠의 양과 AI를 어떻게 활용했는지 명확한 지침을 마련하는 것이 중요합니다.
유념하세요: 탐지기는 편향될 수 있습니다. AI 탐지기는 훈련 방식 때문에 예측 가능한 패턴 없이 일부 인구통계학적 집단에 편 향을 보 일 수 있습니다. 따라서 저는 고위험 결정을 내릴 때 AI 탐지기 결과에만 의존하지 말라고 권합니다.
결과의 일관성을 높이기 위해 여러 도구를 사용하세요. 동일한 텍스트에 대해 서로 다른 AI 감지기를 통해 서로 다른 결과를 낼 수 있습니다. 여러 감지기를 사용하고 그 결과물을 교차 참조하면 더 포괄적인 평가를 제공할 수 있습니다.
텍스트 기반 감지기에만 의존하지 마세요. 키스트로크 데이터나 글쓰기 과정의 비디오 녹화와 같은 추가 정보원을 탐지기 출력과 함께 고려하여 더 현명한 결정을 내리세요.
AI 기술은 계속 발전할 것이며, 학생들은 필연적으로 AI 도구를 학습에 통합하게 될 것입니다. 저와 동료들은 TeachAI 작업을 즐겼으며, 교육자들이 학교와 삶에서 성공하기 위해 진화하는 기술을 활용할 수 있도록 지원하는 데 더 많은 기회를 기대합니다.
장강 은 연구 책임자로서 협력적 문제 해결, 창의성, 호기심, 디지털 리터러시 등 복잡한 기술 평가를 전문으로 합니다.