유정 2 days ago
어제 누가 우리가 100% 이기는 케이스를 들고 왔다. 각 사안마다 딱 들어맞는 판례가 뒷받침해서 확 믿어버리고 싶었지만, too good to be true, 믿을 수 없을 정도로 좋은 건 반드시 믿을 수 없는 물건이다. 판례를 하나씩 검증한 결과, 전혀 놀랍지 않게도 모든 판례가 AI가 지어낸 hallucination이었다. 심지어 번호 구성마저 실제 판례 번호 체계를 따라 지었더라고. 처음부터 AI 돌리는 대신 직접 검색했더라면 이미 끝났을 일을 아직도 하고 있다. 어디 경찰서는 AI에게 속아 잘못 구속한 적도 있다지?
add a skeleton here at some point