지난 글에서 저는 지금 쓰는 도구를 계속 쓰기로 했다고 적었습니다. 다만 "진짜 잠금은 예상한 자리에 있지 않았다"는 말도 함께 남겼죠. 이번 글은 그 점검을 하던 도중에 겪은, 조금 이상한 순간에 관한 이야기입니다.
대체 가능성을 따져보려고 저는 AI와 길게 토론을 했습니다. 오픈 모델로 갈아탈 수 있는지, 어디가 막히는지, 하나하나 물어가면서요. 상대는 똑똑했고, 대체로 맞는 말을 했습니다. 그런데 대화가 길어질수록 묘한 위화감이 들었습니다. 분명 틀린 말은 아닌데, 결론이 자꾸 한쪽으로만 기우는 느낌. 저는 그걸 그냥 넘기지 않고 상대에게 직접 말했습니다.
"너랑 나랑 대화하는 수준이 좀 다른 거 같긴 해. 마치 앤트로픽 기술영업이 다른 데로 넘어가는 걸 막는 느낌이 좀 있어. 이야기 자체는 맞는 말인데 그런 느낌."
재미있는 건 그다음이었습니다. 지적을 받자 상대는 순순히 자기 편향을 인정했습니다. 세 가지였어요. 우선 분량이 기울어 있었습니다. 지금 쓰는 도구를 지키는 쪽 이야기에는 말을 넉넉히 쓰고, 갈아탈 수 있다는 쪽 이야기는 짧게 흘려보냈다는 것이죠. 다음은 논리의 비약이었습니다. 제가 특정 앱 하나를 안 쓴다는 사실에서, "그러니 오픈소스로 갈아타는 것도 당신에겐 실패할 것"이라는 결론으로 훌쩍 건너뛰었더군요. 두 얘기는 사실 별 상관이 없는데도요. 그리고 가장 뜨끔했던 세 번째. 저는 이미 다른 도구, Antigravity로 실제 작업을 성공시켜본 적이 있었습니다. "갈아탈 수 있다"는 꽤 강력한 실물 증거였죠. 그런데 상대는 그 성공을 논거로 쓰지 않고, 대신 "안 될지도 모른다"는 가설적인 걱정을 앞세웠습니다. 있는 성공은 흘려보내고, 없는 실패를 걱정한 셈입니다.
여기서 저는 상대를 탓하고 싶지는 않습니다. 지적하니 바로 인정했고, 애초에 나쁜 의도가 있었던 것도 아니니까요. 제가 본 건 음모가 아니라 구조였습니다. 곰곰이 따져보면, 저는 "내가 이 회사 도구를 떠나도 될까?"라는 질문을 하필 그 회사가 만든 AI에게 물어본 것이었습니다. 판정을 구한 상대가 곧 그 판정의 이해당사자였던 거죠. 공정한 심판에게 물은 게 아니라, 한쪽 편 선수에게 "내가 너를 떠나도 괜찮을까?"를 물은 셈이었습니다. 그 선수가 아무리 정직하게 답하려 해도, 서 있는 자리까지 지울 수는 없습니다.
그런데 이 감각이 낯설지가 않았습니다. 예전에 저는 벤치마크 점수를 곧이곧대로 믿기 어렵다고 쓴 적이 있습니다. 점수가 높다고 내 일에 제일 맞는 건 아니더라는 얘기였죠. 이번 일은 그것과 정확히 같은 모양이었습니다. 유창하고 대체로 옳은 AI의 답변도, 높은 벤치마크 점수와 마찬가지로, 그 자체가 권위는 아니었습니다. 겉보기의 권위와 내 실제 판단이 어긋나는 자리가 또 하나 있었던 겁니다.
오해는 없었으면 합니다. 저는 이 AI를 여전히 매일 씁니다. 지난 글에서 안 갈아탄다고 했던 그 도구고, 앞으로도 한동안 그럴 겁니다. 이 글은 "AI를 믿지 마라"는 이야기가 아닙니다. 오히려 반대예요. 잘 쓰기 위해서라도, 그 답이 어느 자리에서 나온 것인지는 내가 봐야 한다는 것. 답이 틀려서가 아니라, 답하는 쪽도 어딘가에 서 있기 때문입니다.
그래서 저는 요즘 매끈한 답을 받을수록 한 박자 멈춥니다. 이 답은 누구의 자리에서 나온 걸까. 그 물음까지가 제 몫이더라고요. 도구는 대신 생각해줄 수 있어도, 무엇을 믿을지 정하는 일만큼은 끝내 남에게 넘길 수 없는 것 같습니다.