LLM Digest
Subscribe

AI 데일리 리캡

기사 19개 · 카테고리 5개

View as JSON
‹

끝이 있는 데일리 브리프

11월 20일 AI 데일리: 보낸 프롬프트는 새어 나간다

2026년 11월 20일 금요일
기사 19개 · 카테고리 5개

위에서 아래로 읽고 끝

30초 요약

  • Dragos 카나리 테스트: 프롬프트 약 200만 개에서 AI 제공업체 침해 세 건과 무시된 Zero Data Retention 설정 확인
  • CVE-2026-28400: 기본 권한 컨테이너가 Docker Model Runner를 통해 Docker Desktop VM 디스크를 손상시킬 수 있었다
  • incus-spawn과 Sandscale은 코딩 에이전트에게 사용자 자격 증명 대신 전용 Linux 머신이나 Firecracker microVM을 준다
  • Enola는 에이전트 메모리를 코드 심볼에 묶어, 이후 세션이 바뀐 코드에 맞춰 메모를 다시 검증하게 한다
  • Inkling 2 Mini는 토큰마다 12개 레이어를 세 번 반복 실행한다. vLLM이 출시 당일 서빙을 지원했다

AI 제공업체는 사용자가 보낸 데이터를 흘린다. Dragos는 카나리 프롬프트 약 200만 개를 심어 제공업체 침해 세 건을 잡아냈다. 프롬프트를 열람한 리셀러와 무시된 Zero Data Retention 설정도 확인했다.

빌더들은 엣지에서 대응했다. 새 도구들이 코딩 에이전트를 격리된 워크스테이션과 microVM에 올렸고, 로컬 스캐너는 실행 전에 에이전트 설정에서 살아 있는 키를 찾는다.

에이전트 머신: 사용자 말고 박스를 격리하라 4건

네 가지 출시가 코딩·컴퓨터 사용 에이전트를 개발자의 데스크톱과 자격 증명에서 떼어내 별도 VM, 헤드리스 세션, 시뮬레이션 하드웨어로 옮겼다.

코딩 에이전트 컨텍스트: 기억하고, 다시 검증하라 5건

빌더들이 낡고 비대한 컨텍스트를 겨냥했다. 코드 심볼에 묶인 메모리, 생성에 투입되는 조직 표준, 전체 DOM 대신 페이지 요약이 나왔다.

추론 공급망: 보낸 데이터는 그대로 머물지 않는다 3건

프롬프트, 토큰, 로컬 모델 러너가 중립적인 파이프가 아니라 공격 표면이라는 증거가 쌓였다.

에이전트 설정 위생: 키, 훅, 근본 원인 3건

제시된 해법은 지루하고 로컬하다. 에이전트 설정을 스캔하고, 붙여넣은 키를 정리하고, 과거 사고에서 반복되는 원인을 읽는다.

모델: 루프 가중치와 출처 공방 4건

새 아키텍처 하나가 출시 당일 서빙과 함께 나왔다. 한편 연구소와 구매자들은 누가 누구의 가중치를 복제하고, 바꿔치기하고, 피해야 하는지를 두고 맞섰다.

적대적 증류에 대응하기

OpenAI Blog자세히

OpenAI가 자사 모델 출력을 무단 증류해 안전장치 없이 배포되는 복제 모델에 어떻게 대응하는지 설명했다. 위험 사례로 사이버 역량을 들었다.

이번 호는 여기까지입니다