우후죽순 쏟아지는 AI 제품들

‘인공지능(AI) 로봇과 대화 가능한 어린이 교육용 챗봇’, ‘AI가 영어 학습을 도와주는 전자사전’….

전자상거래 업체 쿠팡에 ‘AI’를 검색했을 때 상위에 노출되는 제품들의 광고 문구다. 언뜻 보면 AI 기술이 적용된 것 같지만 실제로는 AI와 별 상관없는 제품이 많다.

전혀 환경친화적인 제품이 아니면서도 친환경 제품이라고 홍보하는 ‘그린워싱’처럼 ‘AI워싱’도 큰 문제가 되고 있다. 기업들은 AI라는 포장지가 씌워지면 소비자나 투자자들에게 혁신 이미지가 주입된다는 점을 노린다.

AI 기술, 없지만 있는 척
단순 챗봇 기능 넣고 ‘AI 대화’ 홍보
“머신러닝·딥러닝 기술과 거리 멀어”서울신문은 한국소비자원 김태형 책임연구원의 도움을 받아 AI 기술을 과대 포장해 홍보하는 실태를 분석했다. 가장 흔한 유형은 단순 음성 인식 기능이 있는 제품에 AI를 붙이는 경우다. 음성 인식을 통해 작동하는 안마의자, 전자사전, 차량 안전 장비 등에 ‘AI 안마의자’, ‘AI 사전’과 같은 이름을 붙이는 방식이다. 김 책임연구원은 “음성 인식을 AI로 인식하는 소비자가 많은데 머신러닝, 딥러닝과 같은 AI 기술과는 거리가 멀다”고 말했다.

단순 챗봇 기능을 탑재해 놓고 AI 대화가 가능하다고 홍보하는 기업도 많다. 그러나 저장돼 있는 내용을 그대로 송출하는 챗봇을 생성형 AI 기술이 발전한 현시점에도 AI에 포함시켜야 할지에 대해선 부정적인 견해가 많다.

유명 프랜차이즈의 거짓말
아마존 고, 요금 자동청구 ‘수동 조작’
무인 햄버거집 커튼 뒤 바쁜 직원들글로벌 전자상거래 업체 아마존은 고객이 물건을 들고 나가면 자동 결제되는 오프라인 매장 ‘아마존 고’를 운영했다.

매장에 설치된 센서와 카메라가 물건을 인식하고, AI를 활용해 요금을 자동 청구하는 시스템으로 주목받았다. 그러나 실제로는 직원 1000여명이 숨어서 각 매장 카메라를 수동으로 조작하며 결제를 진행한다는 사실이 탄로 났다. 아마존은 해당 매장을 폐쇄했다.

국내 햄버거 프랜차이즈 롯데리아의 L7 홍대점은 ‘미래형 무인 매장’으로 유명하다. 오픈 당시부터 ‘첨단 푸드테크 총망라’, ‘테스트 베드’ 등 화려한 수식어가 붙었다.

그러나 최근 매장을 찾아가 보니 커튼 뒤 주방에서는 여느 패스트푸드점과 다를 바 없이 직원들이 바쁘게 햄버거를 만들고 있었다. 롯데GRS 측 관계자는 “재작년 AI 버거 조리 시스템과 사물인터넷을 활용한 매장 도입을 검토했으나 지금은 보류한 상황”이라고 전했다.

국내에는 기업들이 실제 AI 기술을 적용하는지 여부를 판단하는 기준이 아직 없다. 통계청에 따르면 2023년 말 기준 국내 21만 3266개 기업 중 AI 기술 및 서비스를 이용하는 기업은 6만 4587개(30.3%)로 집계됐다. 그러나 실제 이용 여부는 알 수 없다.

그러나 해외 주요국은 이미 AI워싱 대응에 적극적이다. 미국 증권거래위원회(SEC)는 지난해 투자자문사 델피아와 글로벌프리딕션스가 AI 기능을 허위 광고했다며 각각 22만 5000달러(약 3억원), 17만 5000달러(2억 3400만원)의 벌금을 부과했다. 미국 연방거래위원회(ETC)는 기업들에게 AI 활용 정보를 명확하게 표시하고 이를 공개하도록 하고 있다.

송원호 KB금융지주 경영연구소 책임연구원은 “AI 기술이 발전함에 따라 AI워싱에 대한 규제와 소비자 보호의 중요성이 더욱 강조될 것”이라고 말했다. 김 책임연구원은 “현행 표시광고법 등으로도 AI워싱에 대한 규제는 가능하다”면서도 “규제 강화 이전에 기업들이 투명하게 AI 관련 정보를 밝히는 게 중요하다”고 했다.

AI워싱의 밑바탕엔 AI 만능주의가 깔려 있고, AI 만능주의는 AI 거품을 키운다. 일각에선 과거 ‘닷컴 버블’ 붕괴의 전철을 밟을 수 있다고 경고한다. 생성형 AI 모델을 개발하고 운영하기 위해선 막대한 비용이 드는데 수익성을 확보하지 못할 경우 AI 버블이 터질 것이라는 우려다.

국내외 AI 과대포장 대응
해외 주요국 ‘AI 워싱’에 벌금 부과
국내 AI 적용 여부 판단 기준 없어‘인공지능의 미래’의 저자인 제리 캐플런 스탠퍼드대 교수는 최근 열린 ‘AI 서울 2025’ 콘퍼런스에서 “지능은 인간이 갖고 있는 것인데 AI도 (스스로 생각하고 판단할 수 있는) 지능이란 틀에서 생각하다 보니 여러 오해가 생겼다”면서 “생성형 AI가 중요한 발명인 것은 틀림없지만 이미 이 분야의 발전은 둔화하고 있어 닷컴 버블처럼 붕괴할 수 있다”고 밝혔다.

버블 우려에도 불구하고 세계의 투자금은 AI로 계속 쏠린다. 미국 오픈AI는 일본 소프트뱅크와 손잡고 5000억 달러(721조원) 규모의 AI 인프라 프로젝트 ‘스타게이트’ 계획을 발표했다. 미국 빅테크 4개 기업인 구글, 아마존, 마이크로소프트, 메타는 올해에만 AI와 관련해 3000억 달러(432조원)를 투자하겠다고 공언했다.

짙어지는 ‘AI 만능주의’
수백조원 투자에도 수익성 불투명
“이미 발전 둔화… 버블 붕괴 우려도”전문가들은 AI의 현주소와 한계를 이해하고 이를 읽을 수 있는 AI 리터러시(문해력)의 중요성을 강조한다. 장원철 서울대 교수는 “지금 시대는 자료가 너무 방대해 신뢰할 수 있는 자료를 찾는 건 건초 더미에서 바늘 찾기와 같다”면서 “디지털 문해력을 갖추고 올바른 정보를 습득해야 한다”고 말했다.

■기획취재팀

팀장 이창구

장진복 김중래 명종원 이성진 기자