최근 AI 관련 뉴스를 보면 머리가 지끈거릴 때가 많다. 특히 이번 중동 분쟁에 AI가 깊숙이 개입했다는 소식은 뭔가 심상치 않다는 느낌을 준다. 핵심은 미국이 이란 공습 작전에 인공지능 플랫폼을 사용했다는 것이다. 방대한 정보를 순식간에 분석해서 목표물을 지정하는 데 AI가 쓰였다는 건데, 이게 단순한 업무 자동화를 넘어선 차원이란 말이다.
여기서 두 AI 회사, 오픈AI와 앤트로픽의 태도가 극명하게 갈렸다. 앤트로픽은 자체적으로 만든 AI 모델인 클로드(Claude)가 인간의 개입 없는 완전 자율 살상 무기에 사용되는 것을 윤리적인 이유로 거부했고, 결국 미국 정부와 갈등을 겪었다. 반면 오픈AI는 국방부와 계약을 맺었는데, 이들은 안전장치를 마련했다고 주장했음에도 불구하고 사용자들의 거센 반발에 부딪혔다. 챗GPT 앱 삭제율이 폭증하고 부정적인 후기가 쏟아졌다는 대목은 우리가 AI를 바라보는 시선이 얼마나 민감한지를 보여준다.
이 뉴스를 접한 일반 사용자로서 우리는 이 상황을 어떻게 받아들여야 할까. 당장 내 업무가 바뀌거나 내 스마트폰 앱이 사라지는 일은 아닐 수 있다. 하지만 이 뉴스가 던지는 가장 큰 메시지는 AI 기술이 이제 ‘실험실’이나 ‘업무용 툴’을 넘어 국가 안보와 같은 매우 민감하고 중요한 영역에 깊숙이 들어왔다는 사실이다. 우리가 흔히 쓰는 챗봇이나 이미지 생성기가 사실은 군사적 의사결정 과정에 관여할 수 있는 잠재력을 가지고 있다는 뜻이다.
앤트로픽의 사례는 특히 흥미롭다. 그들은 윤리적 기준을 고수하려 했지만, 결과적으로 미국 정부의 제재를 받았다. 그럼에도 불구하고 민간 시장에서는 오히려 클로드 앱이 1위를 차지했다. 이건 사용자들 사이에서 기업의 윤리적 태도와 기술력에 대한 평가가 복잡하게 얽혀 있음을 시사한다. 즉, 기술이 아무리 뛰어나도 그 기술을 운영하는 회사가 어떤 가치를 우선하는지에 따라 사용자들의 선택이 달라진다는 것이다. 나는 이 상황을 보면서 앞으로 AI 서비스를 선택할 때 ‘이 회사는 어떤 가치를 지키려고 노력하는가’를 더 중요하게 따져봐야겠다는 생각이 들었다.
오픈AI의 경우, 국방부 계약 이후 브랜드 이미지에 큰 타격을 입었다. 비록 그들이 안전장치를 마련했다고 해도, 대중은 AI가 전쟁에 깊숙이 관여하는 것 자체에 대한 거부감을 표출한 것이다. 나도 솔직히 챗GPT를 쓰면서 왠지 모를 찜찜함을 느꼈을 것 같다. 기술 발전 속도만큼이나 사회적 합의와 신뢰 구축이 중요하다는 점을 깨닫게 해준다. 우리가 매일 쓰는 서비스가 혹시라도 나도 모르게 사회적으로 논란이 될 만한 곳에 쓰이고 있을지 모른다는 경각심을 가져야 한다.
실제 생활에서 우리가 체감할 수 있는 변화는 두 가지다. 첫째, AI 서비스의 ‘선택적 사용’이 중요해진다는 것이다. 만약 내가 특정 AI 모델의 윤리적 기준에 동의하지 않는다면, 오픈AI나 앤트로픽 말고 다른 대안을 찾아야 할 필요성이 생긴다. 이번 뉴스에서 일본의 NHN테코러스가 앤트로픽의 클로드를 아마존 베드록을 통해 일본 시장에 공급하기 시작했다는 소식도 이런 흐름을 반영한다. 미국 중심에서 벗어난 AI 서비스 공급망이 생겨나고 있다는 것이다.
둘째, 기술 개발의 방향성이 더욱 다각화될 것이다. 미국과 중국을 비롯한 여러 나라들이 AI 기술 자립에 박차를 가하고 있다. 이는 장기적으로 우리 같은 일반 소비자들에게 더 많은 선택지를 제공할 수 있다는 긍정적인 신호다. 특정 거대 기업에 종속되지 않고, 각 지역이나 국가의 특성에 맞는 AI 서비스가 등장할 가능성이 높아지기 때문이다. 예를 들어, 유럽 연합이 강조하는 데이터 주권이나 프라이버시 보호가 강화된 AI 모델이 나올 수도 있다.
앞으로 우리는 AI 기술의 발전이 단순히 편리함을 넘어, 우리가 살고 있는 사회의 구조와 안전에 직접적인 영향을 미치는 시대에 살게 될 것이다. 엔비디아 GTC 같은 큰 행사가 열릴 때마다 새로운 하드웨어와 모델이 쏟아지겠지만, 이제는 그 기술이 어디에, 어떻게 사용되는지에 대한 윤리적 논의를 더 귀담아들어야 한다. AI의 성능이 아무리 좋아져도, 그 성능을 어디에 쓰느냐에 따라 사용자들의 신뢰는 언제든 무너질 수 있다. AI를 쓰는 소비자로서 우리는 더 이상 기술의 결과물만 볼 것이 아니라, 그 기술이 만들어지는 과정과 사용처에 대해서도 목소리를 내야 할 때가 온 것 같다.
