이미지 출처: Microsoft

Microsoft가 AI 생성 텍스트의 오류를 자동으로 수정하는 새로운 도구 'Correction'을 공개했습니다. 

이 서비스는 사실적으로 잘못된 AI 생성 텍스트를 자동으로 수정하려고 시도합니다. 

Correction은 먼저 잘못될 수 있는 텍스트에 플래그를 표시합니다. 

예를 들어, 회사의 분기별 실적 발표 요약에서 잘못된 인용구가 있을 수 있습니다. 

그런 다음 해당 텍스트를 진실의 소스(예: 업로드된 대본)와 비교하여 사실 확인을 합니다.

Microsoft는 이 기능이 의학과 같이 정확성이 중요한 분야에서 AI 애플리케이션 개발자들에게 도움이 될 것으로 기대하고 있습니다.

Correction은 현재 Microsoft의 Azure AI Content Safety API의 일부로 제공되며, Meta의 Llama와 OpenAI의 GPT-4를 포함한 다양한 텍스트 생성 AI 모델과 함께 사용할 수 있습니다. 

이 도구는 소형 언어 모델과 대형 언어 모델을 활용하여 AI 출력을 근거 문서와 일치시키는 새로운 프로세스를 통해 작동합니다.

Google은 이번 여름 AI 개발 플랫폼인 Vertex AI에서 유사한 기능을 도입했습니다. 

이를 통해 고객들은 제3자 제공업체의 데이터, 자체 데이터셋 또는 Google 검색을 사용하여 모델을 "접지"할 수 있습니다.

그러나 전문가들은 이러한 접지 접근 방식이 환각의 근본 원인을 해결하지 못한다고 경고합니다.

워싱턴 대학의 Os Keyes는 환각이 AI 기술의 필수적인 구성 요소라고 지적하며, Correction 자체도 환각을 일으킬 수 있다고 말합니다. 

퀸 메리 대학의 Mike Cook은 이 도구가 일부 오류를 포착할 수 있지만, 사용자들에게 AI 모델이 실제보다 더 정확하다는 잘못된 인식을 심어줄 수 있다고 우려합니다.

출처 :https://techcrunch.com/2024/09/24/microsoft-claims-its-new-tool-can-correct-ai-hallucinations-but-experts-caution-it-has-shortcomings/