성급한 AI 도입에 대한 환멸

무슨 일이 있었나

전 세계 많은 기업이 AI를 너무 빨리 도입하면서 골치 아픈 문제를 겪고 있습니다. Reuters에 따르면 Meta는 직원 감축과 AI 사용 확대 계획을 멈췄습니다. 직원들이 기술 오류와 보안 오류를 고치는 데 너무 많은 시간을 쓰고 있었기 때문입니다. Microsoft의 고위 임원 Ryan Roslansky는 AI가 쓴 쓸모없는 글('스팸')이 매일의 업무를 채우고 있다고 불평했습니다. Walmart의 매장과 창고 직원들은 업무를 배정하고 근무 시간을 짜고 성과를 추적하는 AI 도구가 불공정한 요구를 한다고 말합니다. 이 도구는 실수를 하고, 거짓 안전 경보를 보내며, 현실적이지 않은 일정표를 만듭니다.

주요 숫자와 사실

• 애틀랜타 연방준비은행의 2월 연구에서 리더의 90%는 AI 노력이 생산성을 높이지 못했다고 답했습니다.
• Ernst & Young 조사에서 매출 10억 달러 이상 기업의 고위 관리자 36%가 AI 에이전트 문제를 겪었다고 답했습니다. 데이터 손실, 금전 손실, 브랜드 훼손, 업무 중단 등이 포함됩니다.
• Indeed의 7월 조사에서 직원의 절반이 넘는 사람들이 원하는 AI 교육을 받지 못했다고 답했습니다.
• AI 기술을 잘 아는 직원을 이끌 준비가 되었다고 느끼는 리더는 45%뿐이었습니다.

AI는 무엇을 못 하나

Forbes는 AI가 글을 읽고 질문에 답하는 데는 매우 뛰어나지만, 사람처럼 판단하지는 못한다고 설명합니다. 지난 대화를 기억하거나 고객과 관계를 쌓는 것도 어렵습니다. 예를 들어 한 마케팅 팀은 AI가 쓴 글이 독자의 관심을 끌지 못한다는 것을 알게 되었습니다. AI가 브랜드의 정체성이나 고객이 진짜 원하는 것을 이해하지 못했기 때문입니다. AI는 청구서를 빠르게 처리할 수 있지만, 경험 많은 회계사만 알아챌 수 있는 특이한 점은 놓칠 수 있습니다.

왜 중요한가

기업들은 AI에 수십억 달러를 썼지만, 실제 이익이 얼마나 되는지는 아직 분명하지 않습니다. Wharton School의 Jessica Reif는 AI가 그럴듯해 보이지만 약점이나 오류를 숨긴 답을 자주 내놓는다고 말합니다. 이런 오류는 바로 고쳐지지 않고 업무 전체로 퍼질 수 있습니다. 전문가들은 직원들이 제대로 된 안내 없이 AI를 쓰도록 강요받고, 관리자들은 품질을 낮추지 않으면서 빠른 생산성 향상을 보여 줘야 한다는 압박을 받고 있다고 말합니다.

앞으로 지켜볼 점

• Meta처럼 AI 도입 계획을 멈추거나 늦추는 기업이 더 나올지 살펴보기
• 직원 교육이 늘어나고 AI 도구의 오류가 줄어드는지 확인하기
• AI 도입의 실제 이익이 수치로 증명되는지 지켜보기