기업이 직면한 6가지 머신러닝 과제

게티 이미지/iStockphoto

머신러닝은 기업이 고객 지원을 강화하고 사기를 방지하며 제품이나 서비스에 대한 수요를 예측하는 데 도움이 되는 통찰력을 약속합니다.

그러나 기술을 배포하고 예상되는 이점을 실현하는 것은 아무리 말해도 어려울 수 있습니다. 새로운 도구를 도입할 때 까다로운 문제가 발생합니다. 즉, 투자 부족과 사용자 수용 부족이 장애물 중 하나입니다. 그러나 기계 학습(ML)을 배포하는 조직은 윤리부터 인식론적 불확실성까지 훨씬 더 광범위한 문제를 해결해야 합니다.

기업이 고려해야 할 6가지 ML 과제는 다음과 같습니다.

조직은 새로운 기술을 추구할 때 어느 정도의 위험을 감수합니다. ML의 경우 잠재적인 위험은 크고 다차원적인 경향이 있습니다.

컨설팅 회사 EY의 미주 데이터 리더인 자키르 후세인(Zakir Hussain)은 "우리가 보고 있는 가장 큰 과제는 모든 조직이 겪고 있는 윤리적 문제, 보안 문제, 경제적 문제 및 법적 고려 사항과 관련이 있습니다"라고 말했습니다. "이 네 가지는 일반적으로 많은 고객이 지속적으로 문의하는 사항입니다."

ML 모델의 편향은 가장 중요한 윤리적 문제 중 하나입니다. 예를 들어, 이러한 모델을 훈련하는 데 사용되는 데이터에는 특정 모집단 내의 모든 그룹을 대표하는 데이터가 포함되지 않을 수 있습니다. 결과 모델은 체계적으로 편견이 있는 결과를 생성합니다.

보안과 관련하여 ML 채택자는 몇 가지 문제를 처리해야 합니다. Slalom의 전무이사이자 필라델피아 AI/ML 사업부의 리더인 David Frigeri는 데이터 과학자가 잠재적으로 사용자 정의하려는 오픈 소스 모델과 함께 악성 코드를 다운로드하는 것뿐만 아니라 즉각적인 엔지니어링 공격도 포함한다고 말했습니다. Slalom은 전략과 기술을 전문으로 하는 컨설팅 회사입니다.

그는 또한 위협 행위자가 회사의 교육 데이터에 침투하여 분석 결과나 모델 출력에 영향을 미치는 공격인 데이터 중독을 언급했습니다.

보안 문제는 특히 생성 AI의 콘텐츠 생성 측면에서 더욱 광범위한 신뢰 문제와 밀접하게 연관되어 있습니다. Frigeri는 "어떤 경우에는 [AI]가 당신을 위해 만든 콘텐츠를 항상 신뢰할 수는 없습니다."라고 말했습니다. "무엇을 신뢰할 수 있고 무엇을 신뢰할 수 없는지 파악하기 위해서는 몇 가지 견제와 균형이 있어야 합니다."

한편 경제적 우려는 직장 문제와 AI가 영향을 미칠 것으로 예상되는 약 3억 개의 일자리에 관한 것이라고 Hussain은 말했습니다. 그는 일부 회사에서는 이미 AI가 업무를 수행할 수 있다고 믿는 직위에 대한 채용을 중단했다고 지적했습니다.

그리고 법률 분야에서 Hussain은 ChatGPT를 사용하여 브리핑을 작성한 뉴욕시 변호사의 사례를 지적했습니다. AI 도구는 기술이 어떻게 환각을 일으키고 오류를 유발할 수 있는지를 강조하는 법적 인용을 구성했습니다.

ML을 배포하는 조직은 이러한 문제를 정면으로 해결해야 한다고 Hussain은 말했습니다. 위험을 완화하는 데 도움이 되는 조치에는 명확한 윤리적 지침 및 거버넌스 확립, 데이터 품질 우선순위 지정, 모델 개발의 공정성 강조, 모델의 설명 가능성 보장 등이 포함됩니다.

서둘러 모델을 구축하는 과정에서 조직은 ML이 해결할 수 있는 문제를 프레임화하는 까다로운 작업을 우회할 수 있습니다.

Frigeri는 "우리는 문제를 사랑한다는 단순한 생각으로 고객과 대화를 시작합니다."라고 말했습니다. "사람들은 문제가 무엇인지 질적, 양적으로 완전히 이해하기 전에 솔루션에 매료되는 경우가 너무 많습니다."

조직이 ML에 대한 강력한 문제 후보를 선택하지 못하면 프로젝트가 증발합니다. 선택한 문제가 속담의 바늘을 움직이지 않으면 개념 증명의 자원이 부족해지고 "학습 또는 운영화"를 제공하지 못한다고 Frigeri는 말했습니다.

문제를 해결하기 위해 고군분투하는 조직은 적절한 사용 사례를 찾는 데 어려움을 겪게 되어 배포를 방해하게 됩니다. Gartner가 인터뷰한 200명의 기업 전략가 중 절반 이상이 새로운 기술을 구현할 때 가장 큰 장애물로 "명확한 사용 사례 확립"을 꼽았습니다. 시장 조사 회사의 2023년 7월 보고서에 따르면 전략가의 20%만이 ML과 같은 AI 관련 도구를 사용했습니다.