HN 표시: 원시 RAG 누출률은 0%이지만 에이전트 메모리 누출률은 67%입니다.
벤치마크 결과에 따르면 ACL 필터는 원시 RAG 누출을 차단하지만, 에이전트가 노트를 공유 메모리로 합성하면 상위 권한이 사라집니다.
AI Daily Recap
28 articles · 5 categories
The finishable daily brief
2026년 11월 9일, 인공지능 분야에서 무슨 일이 일어났을까요?
Monday, Nov 9, 2026
28 articles · 5 categories
read top to bottom · then stop
In 30 seconds
- Agent memory leaks confidential data in 67% of benchmark background tasks where raw RAG leaks 0%.
- A Firecracker guest-to-host escape this week renews the case for one VM per agent.
- OpenAI's Control Room can rapidly stop model workloads on safety or security concerns.
- LangChain makes the case for eval-driven development over hand-testing agents.
- GKE dynamic slicing for TPUs is GA; AWS TorchNeuron runs unmodified PyTorch on Trainium.
- Anthropic recommends starting most builds on Opus 5.5 at medium effort.
Agent safety was the day's dominant thread: new benchmarks and tools show permissions, provenance and isolation breaking once agents hold memory and shells, a week after a Firecracker guest escape.
Teams answered with eval-driven loops, policy layers and kill switches, while vendors kept shaving GPU idle time and porting friction.
Prefer to watch?
LLM Digest Daily Explainer: Nov 9, 2026
에이전트 안전, 메모리 및 거버넌스 6 items
이제 에이전트는 메모리를 작성하고, 셸을 실행하고, 자체 기술을 아카이빙하므로 권한, 출처 및 킬 스위치는 모델 외부에서 관리되어야 합니다.
HN 소개: MemSeal – 에이전트 장기 기억을 위한 출처 정보 차단
각 메모리 항목을 해시 체인으로 연결된 출처 정보 봉투로 감싸고 외부 전송 전에 신뢰 계층별로 리콜을 제한합니다.
에이전트 패킷이 호스트 커널에 들어가지 않도록 하십시오.
이번 주 Firecracker의 게스트-호스트 간 보안 허점 유출 사태 이후, 다음 버그 발생 시에도 견딜 수 있는 네트워크 경계를 갖춘 에이전트별 VM을 사용하는 것이 타당하다는 주장이 제기되고 있습니다.
컨트롤 룸 소개: AI 워크로드에 대한 인간의 제어
OpenAI 연구 인프라 전반에 걸쳐 추적 모델 워크로드를 설명하고, 안전 또는 보안 문제가 발생할 경우 신속하게 중지할 수 있는 기능을 제공합니다.
내 AI 에이전트가 유지 관리 실행 중에 자체 기술 53개를 저장했습니다.
실무자의 관점에서 본 자발적으로 구축된 대규모 기술 아카이브와 그에 대한 대응으로 구축된 관리 등록부.
HN 쇼: 에어록 – AI 코딩 에이전트 플릿을 위한 정책 코드
자율 엔지니어링 에이전트 집단에 대한 정책 표현을 위한 개방형 표준을 제안합니다. 초기 단계이며, 피드백을 구합니다.
Evals 및 에이전트 신뢰도 4 items
팀들은 에이전트를 측정하는 방법을 공식화하고 있습니다. 여기에는 평가 기반 루프, 공정한 경쟁 조건 제어, 에이전트 출력에 대한 결정론적 검사 등이 포함됩니다.
Eval 기반 개발이란 무엇인가? AI 에이전트를 개선하는 방법
LangChain EDD(Electronic Design Design)를 다음과 같이 설명합니다. 먼저 측정 기준 세트를 설정하여 모든 프롬프트 또는 상담원 변경 사항이 수동 테스트가 아닌 해당 기준에 따라 평가되도록 합니다.
Agents on Rails 파일: 공정한 에이전트 경주를 위한 Ruby 도구, lemans를 소개합니다.
Rails Foundation 벤치마크를 위한 오픈 소스 도구로, 여러 시간에 걸친 실행 동안 조건을 균등하게 유지하고 샌드박스 탈출 및 그레이더 조작을 차단합니다.
HN 보기: 이혼 – Nu 및 axe로 검증된 네이티브 HTML용 에이전트 스킬
W3C Nu와 도끼 코어를 사용하여 합격/불합격 여부를 결정하는 Claude 코드/코덱스 스킬입니다. 이 스킬을 사용하면 도끼 위반 횟수가 76% 감소하는 것으로 보고되었습니다.
AI 코딩 에이전트는 SemVer에 관심을 가질까요, 아니면 SemVer는 인간만의 영역일까요?
Microsoft 에이전트가 버전 번호를 위험 신호로 사용하는지 테스트하기 위해 약 1,000회의 업그레이드 실행을 진행했으며, 두 가지 모델 모두 에이전트가 버전 번호를 위험 신호로 사용하는 것으로 나타났습니다.
코딩 에이전트 및 개발 워크플로 5 items
코딩 담당자들이 대부분의 PR을 생성하므로, 이제 업무는 그들이 배포하는 내용을 검토하고, 통제하고, 관리하는 것으로 바뀝니다.
CodeRabbit은 에이전트 기반 소프트웨어 개발의 확장성을 높이고 20배 더 많은 제품을 출시합니다.
CodeRabbit은 Codex를 통해 동일한 팀이 20배 더 많은 소프트웨어를 출시할 수 있으며, OpenAI 지원하는 자체 검토 시스템을 통해 AI가 생성한 코드를 관리할 수 있다고 밝혔습니다.
엉성한 홍보 설명은 <details><summary> 태그 뒤에 숨기세요.
사이먼 윌리슨은 에이전트가 작성한 홍보 자료를 세부 정보 블록에 압축하여 리뷰어가 먼저 간략한 요약을 볼 수 있도록 했습니다.
Show HN: AI 코딩 에이전트용 제어 계층 데모
Claude 코드와 같은 코딩 에이전트가 생성, 수정 또는 삭제할 수 있는 파일을 제한하는 데모 제어 계층입니다.
HN 소개: Glassbrain – 에이전트의 생각을 읽고, 에이전트가 무엇을 알고 있는지 알아보세요
에이전트가 작성한 지식 그래프를 단일 HTML 파일로 렌더링하고 차이점을 비교하며, CI를 위해 변경 시 0이 아닌 종료 코드를 반환합니다.
Claude 모델 중 어떤 것을 선택해야 할까요? 페이블, 오푸스, 소네트, 또는 하이쿠?
Anthropic 의 지침: Opus 5.5의 대부분 작업은 기본 중간 난이도로 시작하고, Haiku 5.5, Sonnet 5.5 및 Fable 5.2에서는 난이도를 적절히 조절하십시오.
Inference 및 학습 인프라 5 items
벤더들은 유휴 GPU 제거하고 포팅 마찰을 없애고 있습니다. 스트리밍 학습 데이터, 동적 TPU 슬라이싱, 코드 변경 없이 Trainium 사용 가능, 바로 사용할 수 있는 Dynamo 레시피 등이 그 예입니다.
UCDataset을 사용하여 Unity Catalog 테이블의 GPU 학습 속도를 높이세요
Databricks 의 베타 PyTorch 로더는 Unity Catalog 테이블을 각 GPU 로 직접 스트리밍하여 비용이 많이 드는 칩이 데이터 대기 시간을 줄이도록 합니다.
TPU의 복원력과 효율성을 향상시키는 GKE 동적 슬라이싱 기능이 이제 정식 출시되었습니다.
GKE Dynamic Slicing이 정식 출시되어 논리적 TPU 슬라이스를 물리적 하드웨어에서 분리함으로써 복원력과 활용도를 향상시킵니다.
AWS, PyTorch 모델을 수정 없이 AWS Trainium에서 실행할 수 있는 TorchNeuron 출시
TorchNeuron은 수정되지 않은 PyTorch 모델을 Trainium에서 실행할 수 있도록 하여 GPU에서 벗어나는 비용을 낮춥니다.
NVIDIA Dynamo 레시피를 통해 한국의 선도적인 오픈 소스 모델이 상용화됩니다.
AX K2, K-EXAONE 2.0, Solar Open 2 및 Motif-3용 Dynamo 배포 레시피는 멀티 GPU 라우팅 및 통신을 다룹니다.
HN 보기: clap.cpp – C++( GGML )를 이용한 오디오 임베딩 추론
OpenAI 호환 임베딩 서버를 사용하여 CLAP, MuQ, CLaMP3 및 MERT에 대한 순수 C++ 추론을 구현합니다.
기업 유통 및 플랫폼 환경 3 items
모델은 기존 클라우드 계약 및 지역 파트너십을 통해 건설업체에 제공됩니다.
ChatGPT Enterprise가 이제 AWS Marketplace에서 제공됩니다.
구매 담당자는 기존 AWS 구매 및 청구 관계를 활용합니다.
NVIDIA Nemotron 3.5 Super VL이 이제 Amazon SageMaker JumpStart에서 구매 가능합니다.
이제 SageMaker JumpStart에서 비전-언어 모델을 배포할 수 있습니다.
Apple 중국에서 알리바바의 Qwen AI 솔루션 도입 — 코리아 헤럴드
Apple 중국 AI 기능에 알리바바의 Qwen 모델을 통합하고 있는 것으로 알려졌다.
You are caught up for this edition