에임인텔리전스가 해결하고자 하는 문제는 생성형 AI 탈옥입니다. 탈옥은 생성형 AI가 개발자의 설계에서 벗어난 행동을 하도록 유도하는 모든 공격 행위를 의미합니다. 프롬프트 인젝션이라는 단순한 작업을 통해 잘못된 정보(환각), 불법 콘텐츠 생성 및 Service Failure를 유도할 수 있다는 점에서 주목할 만한 문제입니다.팀 에임인텔리전스는 생성형 AI 탈옥 문제의 정복과 안전하고 믿을 수 있는 AI 개발을 위해 모였습니다. 현재 생성형 AI 대상