Скачать с ютуб AI 커뮤니티 난리가 났습니다... Anthropic이 AI가 생각하는 방식을 알아내고, 안정성은 물론 할루시네이션 통제를 위한 방향을 찾은 것 같습니다. в хорошем качестве

AI 커뮤니티 난리가 났습니다... Anthropic이 AI가 생각하는 방식을 알아내고, 안정성은 물론 할루시네이션 통제를 위한 방향을 찾은 것 같습니다.

AI 관련해서 대중들은 잘 모르는 기술 혁신이 발표되어 AI 커뮤니티가 지금 동요하고 있는데요. OpenAI에서 퇴사한 인력들이 나와 만든 Anthropic에서 최근 꽤 큰 LLM (Claude-Sonet) 수준에서 실제 AI 가 어떤 생각을 하는지 설명할 수 있다는 논문을 냈습니다. 비유하자면 우리가 흥분하거나 기분좋거나 특정 단어를 이야기할 때 뇌의 특정 뉴런의 활성화되듯이, LLM에서도 특정 단어나 특징들을 기존 AI 네트워크를 리버스엔지니어링하여 확인해낸건데요. 흔히 말하는 Explainable AI 라고 하는, 블랙박스로만 해석되었던 AI 내부에서 각 요소들이 어떻게 연결되고 동작하는지, 그리고 이를 인위적으로 바꾸면 어떤 결과를 내는지를 내놓았습니다. 최근 OpenAI의 안정성을 위한 Superalignmet 팀이, 일리야 수츠케버의 사임을 시작으로 해체되는 상황, Anthropic이 AI 통제와 안정성, 할루시네이션 제거와 Explainable AI에서 OpenAI를 앞서가는 느낌입니다. #OpenAI #Anthropic #할루시네이션 Written by Error Edited by 이진이 [email protected]