법원행정처, '허위 사건번호 확인' 서비스 오픈!
Posted by 내가 살아가는 풍경
요즘 ChatGPT나 Claude 같은 생성형 AI를 활용해서 법률 서류를 작성하는 분들이 많이 계시죠?법률 용어도 잘 정리해주고, 판례도 척척 찾아주는 것 같아서 편리하게 쓰시는 분들이 늘고 있는데요... 사실 여기에 아주 큰 함정이 숨어 있었습니다. AI의 '환각현상(Hallucination)'이란? 생성형 AI는 거대언어모델(LLM) 기술을 기반으로 하는데,이 LLM의 특성상 없는 정보를 있는 것처럼 그럴듯하게 만들어내는 '환각현상(Hallucination)' 이 발생합니다. 일반적인 대화에서야 "아, AI가 틀렸구나" 하고 넘길 수 있지만...법률 분야에서는 이게 정말 심각한 문제가 됩니다. 실제로 이런 일이 벌어졌습니다. - 미국 뉴욕 : 한 변호사가 AI로 작성한 소송 서면을 법원에 제출했는..

