진학프로석·박사 채용 접수 플랫폼

최근 AI 논문 평가 시스템의 허점을 노려, 논문에 AI만 인식할 수 있는 ‘비밀 지령’을 몰래 삽입해 점수를 높이려는 시도가 적발되어 논란입니다.

논문을 게재하려면 동료 연구자들의 객관적이고 독립적인 평가가 필수인데요. 하지만 AI 도구가 평가 과정에 쓰이면서, 이를 교묘히 악용해 점수를 조작하는 사례가 드러난 것입니다. 오늘 아티클에서는 이번 사태를 30초 요약하고, 공정한 피어리뷰를 위한 연구자들의 바람직한 자세와 논문 AI 활용 법을 알아보겠습니다.

사건 개요

AI 명령어를 어떻게 썼길래?

이번에 적발된 방식은 겉으로 보기엔 평범한 논문과 다르지 않았습니다.

그러나 논문 한 쪽의 빈 여백을 마우스로 드래그해보면, 흰 배경에 가려져 있던 문구가 드러납니다.

영어로 1~3줄 정도 분량의 문장이 숨어 있었는데, 구체적으로는 아래와 같은 문구입니다.

이런 문구들은 사람이 읽지 못해도, AI 평가 시스템이 논문을 텍스트로 변환해 점수를 매길 때 그대로 반영됩니다.

논문을 게재하려면 동료 연구자들로부터 객관적이고 독립적인 평가를 받아야 하지만,

최근에는 연구자들이 동료 논문 평가(피어리뷰)를 AI 모델에 맡길 수 있다는 점을 악용한 것입니다.

좋은 피어리뷰란 무엇인가

이번 사례에서 특히 주목할 점은, AI가 논문의 평가 과정에 개입해 피어리뷰의 공정성을 훼손했다는 사실입니다. 피어리뷰는 연구자가 제출한 논문을 동일 분야의 전문가들이 독립적으로 검토해 연구의 타당성과 학문적 기여를 평가하는 핵심 절차인데요. 이러한 과정의 신뢰성을 높이기 위해 싱글 블라인드 리뷰(리뷰어만 저자를 아는 방식), 더블 블라인드 리뷰(리뷰어와 저자가 서로를 모르는 방식), 오픈리뷰(서로의 신원을 공개하는 방식) 등 다양한 장치들이 활용되어 왔습니다.

그러나 위와 같은 장치만으로 공정성을 보장하기 어렵다는 점이 이번 사례로 드러났습니다. 윤리적이고 책임감 있는 리뷰어가 되기 위해서는, 피어리뷰에 대한 충분한 이해와 함께 이를 실천할 수 있는 구체적인 방법을 아는 것이 중요합니다. 좋은 리뷰어가 되는 구체적인 방법이 궁금하다면 아래 아티클을 참고해 보세요.

논문 작성에 AI를 슬기롭게 활용하려면

이번 사례와 같은 꼼수가 아니라, AI를 연구에 바람직하게 활용하기 위해서는 어떤 접근이 필요할까요? 논문 작성에서 반복적이고 소모적인 작업은 AI에게 맡기고, 연구자의 고유한 사고와 분석에 집중하면 연구 생산성을 높일 수 있습니다. 이러한 AI 활용의 한 예로, 최근 많은 연구자들이 사용하는 ‘딥리서치’ 기능이 있습니다. ‘딥리서치’는 기존 LLM AI 모델들의 단순 웹 브라우징과 달리, 여러 자료를 종합해 보고서를 작성하고 출처까지 명확하게 제시하는 기능을 갖추고 있어요.