LLM의 취약점은 지시와 데이터의 혼동이다

Name: LLM의 취약점은 지시와 데이터의 혼동이다
Duration: 215 s
Channel: Lenny's Podcast
Description: LLM의 취약점은 지시와 데이터의 혼동이다 • 외부 텍스트는 쉽게 내부 명령을 덮어쓴다 • 이메일 자동화처럼 유용한 기능일수록 유출 위험도 커진다 • 프롬프트 인젝션은 SQL injection처럼 단순히 '막는 문제'가 아니다 • 보안은 모델이 아니라 입력 경계를 설계하는 일이다

원본 영상: An AI state of the union: We’ve passed the inflection point & dark factories are coming · 채널 Lenny's Podcast · 구간 1:16:30–1:20:05

이 구간의 핵심

LLM의 취약점은 지시와 데이터의 혼동이다 • 외부 텍스트는 쉽게 내부 명령을 덮어쓴다 • 이메일 자동화처럼 유용한 기능일수록 유출 위험도 커진다 • 프롬프트 인젝션은 SQL injection처럼 단순히 '막는 문제'가 아니다 • 보안은 모델이 아니라 입력 경계를 설계하는 일이다

이 영상의 요약과 다른 핵심 구간 전부 보기 →