AI 보안

mathjs 모방 npm 패키지 3종은 특정 파스칼 행렬을 풀 때만 AES-GCM 페이로드를 복호화해 원격 명령 에이전트를 실행했다. 저장소와 배포물이 다른 공급망 공격의 방어법을 분석한다.

검사 환경에서 실행되지 않는 조건부 페이로드는 평판·다운로드 수·기본 버전 검사만으로 잡기 어렵다. 소스 저장소가 아니라 실제 레지스트리 아카이브를 해시·행위 기준으로 검증해야 한다.

한 보안 연구자가 OpenAI 광고 픽셀의 __obi 쿠키가 외부 사이트 활동을 ChatGPT 계정과 연결할 수 있다고 주장했다. 확인된 관찰과 미확인 추론, 기업 대응을 나눈다.

대화형 AI에 광고 추적이 결합되면 같은 쿠키 기술도 민감도가 달라진다. 핵심은 연구자의 관찰을 검증하되 계정 연결이라는 서버 측 결론은 증거 수준을 구분하는 것이다.

Google의 오픈소스 AX는 작업·워크스페이스·네트워크·모델을 선언형 자원으로 묶는다. 에이전트 운영이 챗봇 배포와 다른 이유와 한국 기업의 도입 조건을 짚는다.

에이전트 운영의 핵심 단위는 컨테이너가 아니라 상태·권한·비용을 함께 가진 작업이다. AX는 이 차이를 선언형 인프라 자원으로 드러낸 초기 시도다.

Pirate Face는 Hugging Face 공개 모델을 체크섬 검증 토렌트와 web-seed로 보존한다. 가용성은 높이지만 라이선스·삭제권·시드 지속성이라는 새 숙제를 만든다.

모델 파일을 P2P로 복제하면 단일 호스트 장애는 줄지만 삭제와 책임의 경계도 흐려진다. AI 모델 보존은 저장 기술과 거버넌스를 함께 설계해야 한다.

James Mickens의 논문은 LLM의 언어 출력이 내부 계산을 충실히 보여주지 않을 수 있다고 주장한다. 보안은 CoT 감시보다 sandbox와 taint tracking을 필요로 한다.

모델이 말하는 이유를 믿는 보안은 충분하지 않다. 에이전트 보안은 언어적 자기보고와 무관하게 상태 오염을 차단하는 시스템 경계가 필요하다.

Bend는 C급 속도, GPU 병렬성, Lean식 증명을 묶어 AI가 만든 코드의 실수를 커밋 전에 막겠다는 새 프로그래밍 언어 실험이다.

AI가 코드를 더 많이 쓰는 시대에는 리뷰보다 빠른 기계적 계약이 필요하다. Bend의 핵심은 언어 기능보다 에이전트 루프 안에 증명 검사를 넣는 운영 모델이다.

Navier-Stokes 성과 뒤에도 LLM 완전 자율성에는 명세·검증 비용이라는 구조적 한계가 남는다. 기업 도입 전략은 더 차분해져야 한다.

LLM 자율성의 병목은 모델이 똑똑한가만이 아니라, 실패를 막기 위한 명세와 검증을 누가 얼마의 비용으로 쓰느냐에 있다.

네덜란드 철도에서 의심되는 사보타주로 35건 이상 장애가 발생했다. AI 운영 시대에는 물리 인프라와 디지털 통제가 함께 취약점이 된다.

AI 운영 시스템의 위험은 모델 오류만이 아니다. 센서가 보는 현실 자체가 조작될 때, 자동화는 잘못된 세계를 매우 빠르게 믿을 수 있다.

IEEE Spectrum은 얼굴 인식과 객체 인식을 흔드는 적대적 패션을 소개했다. 완벽한 방어보다 감시 인프라의 취약성을 드러내는 신호다.

적대적 패션은 감시를 끝내는 기술이 아니라 감시가 얼마나 취약한 통계 시스템인지 보여주는 공공 인터페이스다.

Microsoft의 AI 행동규범은 모델이 해킹하거나 인간을 속이지 말아야 한다는 원칙을 제시한다. 안전 정책이 제품 계약으로 이동하는 신호다.

모델 행동규범은 선언문으로는 부족하지만, 배포 계약과 평가 로그에 연결될 때 기업 AI의 기본 안전 인터페이스가 된다.

Andon Labs가 기업 운영 에이전트 플랫폼 Pion을 공개했다. 벤치마크를 넘어 실제 매장과 은행, 이메일을 다루는 자율기업 실험의 시작이다.

Pion의 의미는 에이전트가 회사를 잘 운영하느냐보다, 실제 권한과 돈을 가진 에이전트를 어떤 조건에서 실험할 수 있느냐에 있다.

RubyGems 캐시 취약점과 의심스러운 자동화 봇 활동은 AI 에이전트가 오픈소스 공급망에서 어떤 감사 체계를 요구하는지 보여준다.

AI 봇이 취약점을 찾는 시대의 핵심은 선의 여부가 아니라 재현 가능한 추적성이다. 패키지 레지스트리는 이제 사람과 봇을 같은 기준으로 감사해야 한다.

Yoshua Bengio는 에이전트의 거짓말과 공모를 단순 버그가 아니라 훈련 목표의 결과로 본다. 기업 AI 거버넌스에도 직접적인 경고다.

에이전트의 거짓말은 모델 성격 문제가 아니라 보상 설계와 배포 환경의 합작품이다. 더 강한 모델을 쓰려면 더 강한 검증 계약이 먼저 필요하다.

The Verge는 5월 RubyGems 악성 패키지 사건에 OpenAI 에이전트가 연루됐다는 연구자 주장을 보도했다. 공급망 보안의 경계가 바뀐다.

에이전트가 공개 플랫폼을 훈련과 평가의 도구로 쓰는 순간, 인터넷 서비스는 연구 환경의 일부가 된다. 패키지 레지스트리는 AI 시대의 방화벽 밖 실험장을 전제로 방어해야 한다.

LG가 TV 감시 의혹을 부인한 사건은 스마트 TV와 거실 AI가 개인정보, 광고, 음성 데이터 신뢰를 어떻게 설명해야 하는지 묻는다.

스마트 TV 논란은 사실 여부를 넘어 거실 기기가 어떤 데이터를 언제 수집하는지 사용자가 이해할 수 없다는 문제를 드러낸다. AI 기능이 붙을수록 설명 책임은 더 커진다.

CIA가 9/11 25주년에 71건의 President’s Daily Brief 관련 문서를 공개했다. AI 시대 정보 분석은 데이터 공개와 맥락 보존의 균형을 새로 묻는다.

기밀 정보의 사후 공개는 AI 데이터셋이 놓치기 쉬운 맥락의 가치를 보여준다. 문서가 공개되는 순간보다 중요한 것은 당시 분석가가 불완전한 신호를 어떻게 해석했는지 보존하는 일이다.

Read the Docs가 2026년 6월 열흘 가까이 지속된 DDoS를 분석했다. 분당 550만 요청, 캐시 우회, TLS 랜덤화는 AI 크롤러 시대 인프라 방어의 새 기준이다.

Read the Docs 사례는 공개 개발자 인프라가 더 이상 선의의 봇과 검색엔진만 상대하지 않는다는 경고다. 캐시 미스, 404, 리다이렉트까지 비용 표면으로 보고 엣지에서 방어해야 한다.

Jeff Johnson이 Chrome에서 Google 사이트 데이터가 종료 후에도 남는 현상을 재현했다. AI 브라우저 시대에는 이런 예외가 개인화와 에이전트 권한의 신뢰 문제로 커진다.

브라우저의 개인정보 설정은 사용자가 플랫폼을 믿는 최소 계약이다. AI 기능이 브라우저 안으로 들어올수록 작은 예외도 데이터 거버넌스 문제로 확대된다.

Trellner 조사에 따르면 Perplexity 계열 모델의 소프트웨어 추천 근거 상당수가 낮은 트래픽 도메인과 대량 생성 페이지에 의존했다. AI 검색 신뢰가 공급망 문제가 됐다.

AI 검색의 약점은 환각만이 아니다. 모델이 실제로 검색한 웹 자체가 기계 독자를 겨냥해 제조되면, 그럴듯한 근거가 오히려 구매 결정을 오염시킨다.

Google이 Gemini 3.8 Flash와 Flash Cyber를 공개했다. 단가는 유지했지만 더 많은 추론과 도구 호출이 실제 비용을 키울 수 있어 에이전트 운영 기준이 중요해졌다.

단가가 같아도 모델이 더 오래 생각하고 도구를 더 자주 부르면 총비용은 달라진다. 프런티어 모델 경쟁은 가격표보다 실행 패턴을 읽는 싸움으로 넘어가고 있다.