AI에게 한참 질문을 적었는데 “죄송하지만 답변할 수 없습니다”라는 문장만 돌아온다. 틀린 답을 받는 것보다는 낫다고 생각하면서도, 속으로는 “그럼 어디까지는 되는데?”라는 말이 튀어나온다. 안전벨트를 맸는데 자동차가 출발하지 않는 듯한 순간이다.

최근 공개된 한 연구는 바로 이 답답함을 실험으로 들여다봤다. 결론부터 말하면 사람들은 정확한 답을 가장 좋아했지만, 그다음 자리는 ‘거절’이 아니라 ‘환각’, 즉 틀린 내용을 사실처럼 말한 답변이 차지했다.

✦

정답 1등, 오답 2등, 거절 3등

9월 14일 논문 사전공개 사이트 아카이브(arXiv)에 올라온 연구에는 599명이 참여했다. 연구진은 AI가 전혀 거절하지 않거나, 가끔 또는 자주 거절하도록 조건을 나눴다. 거절할 때 이유를 설명하는 경우와 설명하지 않는 경우도 비교했다.

참가자 만족도는 대체로 정확한 답변, 틀린 답변, 답변 거절 순이었다. 흥미로운 점은 참가자들이 틀린 답의 정확도가 낮다는 사실도 어느 정도 알아봤다는 것이다. 오답을 정답으로 철석같이 믿어서 좋아했다기보다, 아무 답도 받지 못하는 경험을 더 불편하게 평가한 셈이다.

여기서 ‘좋아했다’와 ‘믿었다’를 같은 말로 섞으면 연구의 재미도, 경고도 사라진다. 만족도는 대화가 얼마나 매끄럽고 유용하게 느껴졌는지를 보여주지만, 답이 사실인지는 별도의 문제다. 맛집을 자신 있게 추천받아 기분은 좋았는데 찾아가 보니 존재하지 않는 식당이었다면, 즐거운 대화와 정확한 안내가 얼마나 다른지 금세 알 수 있다.

사람은 검색창이나 AI에게 질문하는 순간 작은 결말을 기대한다. 확실한 정답이 아니더라도 생각을 이어갈 단서, 다음에 확인할 키워드, 혹은 “이 부분은 알겠다”는 최소한의 손잡이를 원한다. 연구에서 ‘인지적 종결 욕구’가 높은 참가자일수록 거절하는 AI를 더 부정적으로 평가한 결과도 이 해석과 맞닿아 있다.

쉽게 비유하면 이렇다. 길을 물었을 때 한 친구는 자신 있게 엉뚱한 골목을 가리키고, 다른 친구는 “모르겠어”라며 돌아선다. 목적지에 도착하려면 첫 친구도 위험하지만, 대화를 이어가고 싶은 마음만 놓고 보면 두 번째 친구가 더 답답하게 느껴질 수 있다. 다만 내비게이션이라면 이야기가 달라진다. 기분 좋은 오답은 여전히 오답이다.

“왜 안 되는지” 말하면 괜찮을까

설명은 어느 정도 효과가 있었다. AI가 가끔 거절할 때는 이유를 덧붙이면 만족도가 나아졌다. “이 질문은 답변할 수 없습니다”에서 끝나는 것보다, 제한의 이유를 알려주는 편이 납득하기 쉬웠다는 뜻이다.

하지만 거절이 잦아지자 설명의 약발도 떨어졌다. 매번 정중하게 사과하더라도 원하는 도움을 계속 받지 못하면 사용 경험이 좋아지지 않았다. 식당에서 품절 이유를 자세히 들려줘도 주문할 수 있는 메뉴가 하나도 없다면 배고픔은 해결되지 않는 것과 비슷하다.

그래서 AI 서비스의 거절 문구만 부드럽게 고치는 것으로는 부족할 수 있다. 이용자가 같은 질문을 표현만 바꿔 되풀이하는지, 거절 뒤에 대화를 끝내는지, 제시한 대안을 실제로 선택하는지까지 함께 살펴야 한다. 거절 횟수만 줄이면 안전성이 흔들릴 수 있고, 문구만 길어지면 이용자는 더 긴 ‘안 됩니다’를 읽게 된다.

좋은 거절은 ‘다음 문장’이 있다

이 결과를 “AI는 모르는 것도 자신 있게 말해야 한다”는 주문으로 읽어서는 곤란하다. 환각은 의료·금융·법률처럼 오류 비용이 큰 분야에서 실제 피해로 이어질 수 있다. 답변 거절은 위험한 요청을 막고 불확실성을 알리는 꼭 필요한 안전장치다.

연구가 던지는 실무 질문은 안전장치를 없앨지가 아니라, 거절 뒤에 무엇을 놓을지에 가깝다. 좋은 거절이라면 왜 답하기 어려운지 짧게 밝히고, 답할 수 있는 범위를 나누며, 사용자가 확인할 자료나 질문을 바꿀 방향을 제시해야 한다. “안 됩니다”보다 “그 요청은 어렵지만 공개 자료를 비교하는 방법은 도와드릴 수 있습니다”가 훨씬 유용하다.

예컨대 건강 문제에 확정적인 진단을 내릴 수 없다면 증상을 기록하는 항목과 진료가 필요한 경고 신호를 안내할 수 있다. 저작권 때문에 긴 원문을 그대로 제공할 수 없다면 핵심 내용을 요약하거나 공개된 출처를 찾는 방법을 제안할 수 있다. 거절의 문을 닫되, 바로 옆에 안전한 작은 문을 하나 더 만드는 방식이다.

학교와 회사의 AI 교육에서도 같은 원칙을 적용할 수 있다. 학습자에게 AI의 답을 무조건 믿지 말라고 가르치는 데서 멈추지 않고, 답변과 거절을 모두 검증하는 습관을 길러야 한다. 그럴듯한 문장에는 출처를 요구하고, 거절을 받았을 때는 질문 범위를 좁히거나 안전한 대안을 찾는 연습이 필요하다.

물론 이번 연구는 599명을 대상으로 한 실험이며 아직 동료평가를 거치지 않은 사전공개 논문이다. 특정 AI 서비스의 실제 이용 기록을 분석한 결과도 아니다. 이용자가 오답을 더 신뢰했다거나, 모든 종류의 거절을 싫어한다고 일반화할 수도 없다.

질문의 분야와 위험도에 따라서도 반응은 달라질 수 있다. 주말 영화 추천에서의 엉뚱한 답과 복용 중인 약에 관한 엉뚱한 답은 무게가 같지 않다. 이번 결과는 모든 AI가 더 많이 대답해야 한다는 결론보다, 안전성과 사용성을 한쪽 점수로 재지 말아야 한다는 출발점에 가깝다.

그래도 메시지는 선명하다. 사람은 AI의 정직함뿐 아니라 도움을 받았다는 감각도 평가한다. 가장 좋은 AI는 무조건 답하는 수다쟁이도, 매번 입을 닫는 모범생도 아니다. 모르면 모른다고 말하되, 사용자가 다음 걸음을 내디딜 수 있게 한 문장을 더 건네는 AI에 가깝다.