‘토큰맥싱’에 비용 폭탄 맞은 실리콘밸리… “이제는 토성비 따진다”

미국 뉴욕타임스에 따르면 최근 오픈AI의 한 엔지니어가 일주일 동안 2100억 개의 토큰(인공지능 모델이 처리·생산하는 데이터의 단위)을 사용해 사내 토큰 소비 순위 1위에 올랐다. 온라인 백과사전 위키피디아 전체 문서를 33번이나 채울 수 있는 양이었다. 인공지능(AI) 스타트업 앤스로픽의 코딩 프로그램인 ‘클로드 코드’에서는 사용자 한 명이 한 달 만에 15만 달러(약 2억 원)어치의 토큰을 소비한 사실이 알려지며 화제를 모았다. 이처럼 미국 실리콘밸리 등 글로벌 정보기술(IT) 업계에서 개인의 AI 사용량이 웬만한 스타트업의 연간 IT 인프라 유지비를 가볍게 뛰어넘는 촌극이 벌어지고 있다. 사용자가 잠든 시간에도 홀로 AI가 업무를 수행하는 ‘에이전틱 AI’ 시대가 도래하자 개인이 쓸 수 있는 AI 사용량, 즉 토큰 양이 기하급수적으로 많아진 것이다. 미 빅테크 업계에서는 토큰 처리량이 곧 ‘AI 잘 쓰는 엔지니어’로 일종의 성과 지표로까지 여겨지자 ‘토큰맥싱(Tokenmax

Go to News Site