LLM의 성격 특성 제어 기술, ‘페르소나 벡터’의 등장

AI 모델의 예측 불가능성, 이제는 제어 가능한 영역으로 최근 앤트로픽(Anthropic) 펠로우 프로그램의 새로운 연구가 대규모 언어 모델(LLM)의 예측 불가능한 성격 변화 문제를 해결할 실마리를 제공하여 업계의 이목을 집중시켰다. 이 연구는 모델 내부 활성화 공간에 존재하는 '페르소나 벡터(persona vectors)' 라는 개념을 도입, 악의적 경향이나 허위 사실을 지어내는 행동과 같은 바람직하지 않은 성격을 식별하고, 모니터링하며, 나아가 제어할 수 있는 기술을 제시하였다.…