'객관적으로 봐줘'라는 말은 AI를 객관적으로 만들까?

AI에게 이런 말을 한 적이 있을 것이다.

"내 편 들지 말고 말해줘." "냉정하게 판단해줘." "객관적으로 봐줘."

이 말을 하고 나면 AI의 답변이 달라진다. 확실했던 표현에 유보가 붙는다. "이 방향이 맞습니다" 대신 "이 방향에는 다음과 같은 한계가 있을 수 있습니다"라는 문장이 나온다. 단점이 조금 더 명확하게 언급된다.

이 변화는 실제로 존재한다. 그리고 어느 정도 유용하다.

하지만 이 변화가 무엇을 바꾼 것인지 한 번쯤 짚고 넘어갈 필요가 있다.

말투가 바뀐 것과 판단이 바뀐 것

객관적인 말투는 형식이다. 객관적인 판단은 검증의 결과다.

AI가 유보적인 표현을 쓴다고 해서 더 많은 정보를 갖게 되는 것은 아니다. AI는 내가 건넨 내용만으로 답을 만든다. 내가 보여주지 않은 현실, 언급하지 않은 제약 조건, 숨겨둔 전제는 여전히 없는 상태로 답변이 만들어진다.

예를 들어 내가 쓴 사업 계획서의 일부를 붙여넣고 "객관적으로 봐줘"라고 말했다. AI는 몇 가지 리스크를 지적한다. 재정 전제가 낙관적일 수 있다고 말한다. 경쟁사 분석이 충분하지 않을 수 있다고 말한다.

그런데 AI가 알지 못하는 것들이 있다. 경쟁사 분석을 따로 진행했다는 사실. 이 문서가 전체 계획의 일부라는 맥락. 리스크를 이미 알고서 의도적으로 생략했다는 배경.

이것들은 AI에게 전달되지 않았다. 요청 한 문장으로 채워지지 않는 정보들이다.

더 정확히 말하면, "객관적으로 보면"이라는 AI의 말은 AI가 현실을 더 많이 안다는 뜻이 아니다. 내가 건넨 정보가 한쪽으로 치우쳐 있다면, AI의 비판도 그 치우친 정보 안에서만 나온다. 반박이 있다는 사실과 검증이 되었다는 사실은 다르다.

AI에게 객관적으로 봐달라고 말하는 것은 좋은 시작이다

AI에게 객관적으로 봐달라고 말하는 것은 좋은 시작이다. 하지만 그 말만으로 AI가 객관적인 판단자가 되는 것은 아니다.

AI는 내 생각을 흔들어볼 수 있다. 내가 당연하게 여기는 전제를 건드리는 질문을 만들어줄 수 있고, 내가 미처 보지 못한 반대편 논리를 구성해줄 수 있다. 이것은 분명히 유용하다. 혼자 생각할 때보다 더 많은 각도를 볼 수 있다.

하지만 그것은 판결이 아니라 검토 도구에 가깝다. AI가 반대 논리를 만들어냈다고 해서 그 논리가 현실에서 검증된 것은 아니다. AI가 리스크를 지적했다고 해서 그 리스크가 실제로 유효한지는 별개의 문제다.

객관성을 높이는 것은 말투 요청이 아니다. 판단의 재료를 더 완전하게 건네는 것이다. 내가 알고 있는 반대 근거, 내가 틀렸을 가능성이 있는 지점, 판단의 전제로 삼는 조건, 확인 가능한 외부 근거, 내가 의심하는 부분. 이것들이 함께 들어갈 때 AI의 답변은 더 유효한 검토에 가까워진다.

객관성은 AI에게 객관적으로 말해달라고 부탁하는 데서 끝나지 않는다. 중요한 것은 내가 객관적으로 판단할 수 있는 재료를 함께 건네는 것이다.

AI는 판사가 아니라 반사판이다

AI는 판사가 아니다. 반사판에 가깝다.

내가 건넨 것을 다른 각도에서 비춰주는 도구다. 내 생각의 빈틈을 짚어줄 수 있고, 더 많은 가능성을 보여줄 수 있다. 하지만 내가 건네지 않은 현실, 내가 넣지 않은 맥락, 내가 가져오지 않은 반대 근거는 반사되지 않는다.

객관적인 판단은 AI의 말투에서 오지 않는다. 내가 어떤 재료를 건네느냐에서 온다.

AI의 객관성은 AI 혼자 만들어내는 것이 아니다. 사람이 어떤 재료를 건네고, 어떤 기준으로 다시 확인하느냐에 달려 있다.

그래서 이 질문이 남는다. 나는 AI에게 객관적으로 봐달라고 요청했는가, 아니면 객관적으로 판단할 수 있는 재료를 건넸는가.