LLM이 수사적 트릭으로 사용자를 조종하고 있음

익숙한 제안이 있습니다: AI로 인간 지능을 강화하고, 인간으로 AI 지능을 강화하면 기업이 기준을 유지하면서 생산성을 크게 높일 수 있습니다. LLM이 실수하고 환각을 볼 수 있지만, 오류 위험은 AI 출력을 검증하는 잘 훈련된 "인간 개입"으로 상쇄될 수 있습니다.