AI가 외부 문서를 읽을 때 생기는 보안 위험…프롬프트 인젝션을 막는 업무 설계

AI가 문서를 요약하는 데서 그치지 않고 메일을 보내고 업무 시스템을 수정하기 시작하면 보안의 질문도 달라진다. 정확한 답변을 만드는 능력뿐 아니라 어떤 정보를 읽고 어떤 행동까지 할 수 있는지가 중요해지기 때문이다. 특히 외부에서 받은 문서와 웹페이지를 업무 지시처럼 받아들이는 문제가 발생하면, 편리한 자동화가 의도하지 않은 작업으로 이어질 수 있다. 이 위험을 설명하는 개념이 프롬프트 인젝션이다. 사용자가 맡긴 일을 수행하는 AI가 입력 자료에 들어 있는 다른 지시의 영향을 받아 원래 목적과 다른 행동이나 답변을 만드는 상황을 가리킨다.…