머신러닝 / 과장 광고된 AI를 판별하라···‘AI 워싱’을 피할 수 있는 9가지 전략

AI 기술이 범람하는 시대다. CIO는이제 쓸모 없는 AI 기술을 이제 구분하는 능력이 필요하다. 외부 업체들이 대단한 기술이라며 가져온 AI를 차분하게 검토하고 방어하는 전략을 갖추고 있어야 하는 셈이다.
 

ⓒ Getty Images Bank 
인공지능은 최근 몇 달 동안 모든 이가 가장 좋아하는 유행어였다. AI가 꾸준히 발전하면서 수많은 IT 기업이 앞다투어 혁신 기술을 내놓고 있다. 그러나 이에 대해 흥분과 진보만 있는 것은 아니다. AI 워싱(AI washing)과 같은 위험 신호 또한 대두되고 있다. AI라는 횡재 열차에 오르길 바라는 일부 기업은 과대 광고를 통해서도 수익을 올리기 원한다. 따라서 이들은 활용 중인 AI가 실제로는 미미하거나 존재하지 않음에도 불구하고 AI 기능을 과장하기도 한다. 이런 현상을 바로 AI 워싱이라고 부른다. 즉 AI 기술이 제대로 들어가 있지도 않는데 AI 있다고 과장 광고를 하고 하는 것이다. 

마케팅 전략에 문제가 있더라도 AI 워싱을 행하는 기업은 막상 비 AI 기업에 비해 더 큰 시드(seed) 단계, 시리즈 A 및 B 펀딩 라운드를 받을 수 있다. 글로벌 데이터(GlobalData)에 따르면, AI 스타트업은 작년에만 500억 달러 이상의 벤처 캐피털 자금을 조달했다. 챗GPT 등을 둘러싼 엄청난 열기를 감안할 때 올해는 이 수치가 더욱 증가할 것으로 예상된다. 자연스레 AI 워싱 현상은 점점 더 확산될 것이다. 실제로 미국 연방거래위원회(FTC)는 이 위험성을 충분히 인식하고 있으며, AI 기능을 광고할 때 투명하고 정직해야 한다고 벤더에게 경고하기도 했다.

FTC 광고 관행 부서의 변호사 마이클 애틀레손은 “AI 기능을 강조하는 일부 제품의 경우 애초에 광고된 바 대로 작동하지 않을 수 있다. 어떤 경우에는 제품이 어떤 다른 해를 가할 수 있는지와 무관하게 명시된 효과가 없을 수 있다. FTC는 향후 제품 효과를 허위 또는 근거없이 부풀리는 기업을 단속할 것이다. 마케터는 이를 유념하고 있어야 한다”고 설명했다.   

사실 이러한 복잡한 환경에서는 합법적인 AI 솔루션 및 마케팅 전략을 구분하기 어려울 수 있다. 딜로이트 글로벌 AI 연구소의 전무인 비나 암마나스는 “만약 벤더가 AI 기능을 강조해 설명한다면, 어느 정도 회의적인 시각으로 바라봐야 한다. 모든 게 그러하듯, 너무 좋게만 들린다면 정말 실제로 그럴 가능성은 낮다”고 언급했다. 

뉴욕대의 CIO인 도널드 웰치는 “CIO 및 이들이 속한 기업이 AI에 대해 정답을 찾지 못할 경우 프로젝트가 실패되거나 지연된다. 혹은 재정적 손실, 법적 문제, 리스크 하락, 궁극적으로 해고까지 직면할 수 있다”라며 “그런 이유로 임원들이 해고되는 모습을 보아왔는데 아주 잘못된 것이라고 생각하지 않는다. 임원은 책임질 수밖에 없다”고 이야기했다. 

다행히도 이런 AI 워싱에 당하는 상황을 피하기 위해 사용할 수 있는 몇 가지 전략이 있다. 

AI 기반 비즈니스는 전문성 있는 직원이 필요하다
AI를 사용한다고 주장하는 비즈니스를 검증하는 것은 길고 시간이 많이 소요되는 과정일 수 있다. 그러나 링크드인 검색과 같은 간단한 작업을 통해 가치 있는 인사이트를 얻을 수 있다. 

암마나스는 “벤더의 직원들이 가지고 있는 AI 경험 및 교육 수준을 조사하라. AI 솔루션을 개발하는 기업이라면 AI, 머신 러닝, 알고리즘 개발 등에 대한 풍부한 경험을 갖춘 데이터 과학자 및 데이터 엔지니어 같은 인재가 있어야 한다”고 지적했다. 

직원 조사 외에도 CIO는 해당 벤더가 외부 AI 전문가 및 연구기관과 협업을 한 적 있는지 찾아야 한다. 가령 대학과의 파트너십, 산업 컨퍼런스 및 행사 참여, 오픈 소스 AI 이니셔티브에 대한 기여가 있는지 알아보는 것이다. 

또한 벤더가 유사한 프로젝트 혹은 애플리케이션 관련 경험이 있다면, 제대로된 결과를 제공할 확률이 높다. 우크라이나계 미국인 스타트업 맥퍼(MacPaw)의 최고 기술 및 혁신 책임자인 비라 트카첸코는 “벤더의 이력을 세심히 체크하자. 기업이 AI 전문 기업이라면 이 분야에 대한 연구 논문 혹은 기타 AI 제품에 대한 이력이 있을 것이다”라고 설명했다. 

 

..

원문 보기:
https://www.ciokorea.com/news/289957#csidxe019b4f282e9a92bb3fe9aba5293202