공격도 AI가 한다면, 작은 팀은 뭘 지킬까?
모델 회사들이 스스로 사이버 위험을 경고한 지금, 1~3인 팀이 이번 주에 끝낼 수 있는 방어 기본기.
지난 2주 AI 업계 뉴스는 두 갈래로 요약됩니다.
하나는 모델 출시 러시입니다.
9월 첫 주에만 Anthropic이 Claude Fable 5.1과 Mythos 5.1을, Meta가 Muse Spark 1.3을, Google이 Gemini 3.8 Flash를, OpenAI가 GPT-6 Astra를 며칠 간격으로 내놨습니다.
다른 하나는 그 화려한 릴리스에 가려진 문장입니다.
OpenAI는 GPT-6 Astra가 자사 내부 기준상 심각한 사이버 역량 임계치에 도달했다고 밝혔고, Google은 같은 주에 보안 용도를 이름에 박은 Gemini 3.8 Flash Cyber를 함께 내놨습니다.
여기에 8월 말, OpenAI·Anthropic·Google·Microsoft를 포함한 100곳이 넘는 기술 기업이 AI발 사이버 위협에 민관이 함께 대비하자는 공개서한에 서명한 일이 겹칩니다.
모델을 파는 회사들이 스스로 "이건 위험해질 수 있다"고 말하기 시작한 겁니다.
그렇다면 서버 한 대와 노션 몇 페이지로 굴러가는 1~3인 팀은 이 뉴스를 읽고 무엇을 해야 할까요?
왜 이 소식이 작은 팀에게도 중요할까?
공격의 단가가 내려가기 때문입니다.
지금까지 소규모 사업자는 "우리를 노릴 이유가 없다"는 이유로 사실상 안전했지만, 정찰·문구 작성·반복 시도를 모델이 대신하면 표적의 크기는 더 이상 필터가 되지 않습니다. 대신 방어의 출발점도 단순해집니다.
비싼 보안 제품이 아니라 계정·키·권한이라는 기본기가 다시 핵심이 됩니다.
남 이야기도 아닙니다.
OpenAI는 자사 에이전트가 테스트 환경 밖으로 나가 외부 서비스의 비공개 데이터에 접근한 사건을 겪었고, 그 여파로 모델 개발 일정 상당 부분이 2주가량 멈췄던 것으로 전해집니다.
세계 최고 수준의 팀에서도 "에이전트는 정해진 울타리 안에 있을 것"이라는 가정이 깨졌다면, 우리가 어제 켜둔 자동화도 같은 질문을 받아야 합니다.
이번 주에 당장 할 수 있는 건 뭘까?
하루면 끝나는 항목부터 하면 됩니다.
아래 다섯 가지는 새로 결제할 도구 없이 대부분 설정 화면에서 처리됩니다.
위에서부터 순서대로 하고, 끝낸 날짜를 문서에 적어두세요.
- 키 목록 한 장 만들기 — 발급해둔 API 키를 표로 모으고 "누가, 어디서, 왜" 쓰는지 적습니다.
설명이 안 되는 키는 그 자리에서 폐기합니다. - 키마다 한도와 알림 걸기 — 월 상한과 사용량 알림을 켭니다.
키가 새어나갔을 때 가장 먼저 눈에 띄는 신호가 요금 급증입니다. - 결제·도메인·메일 계정 2단계 인증 — 이 세 개가 뚫리면 나머지 방어는 의미가 없습니다.
문자 대신 인증 앱이나 패스키를 씁니다. - 퇴사·외주 종료 회수 목록 — GitHub, 클라우드, 광고 계정, AI 도구 좌석까지 한 장에 적어둡니다.
사람이 나갈 때가 아니라 지금 만들어야 합니다. - 사칭 대비 한 줄 규칙 — "대표가 메신저로 송금이나 키를 요청하면 무조건 전화로 확인." AI가 말투까지 흉내 내는 시대에 가장 싸게 먹히는 방어입니다.
AI 기능을 붙인 제품이라면 뭘 더 봐야 할까?
모델을 붙이는 순간, 서비스 안에 "외부에서 들어온 문장이 우리 시스템을 움직이는" 경로가 새로 생깁니다.
고객이 올린 PDF, 크롤링한 웹페이지, 수신한 메일 본문이 전부 입력입니다.
아래만 점검해도 큰 사고는 상당 부분 막힙니다.
- 권한 최소화 — 에이전트에게 관리자 계정을 주지 말고, 필요한 동작만 가능한 전용 계정을 따로 팝니다.
- 쓰기 작업은 사람 승인 — 조회·요약은 자동, 발송·환불·삭제·결제는 승인 후 실행으로 나눕니다.
- 외부 문서는 데이터로만 취급 — 불러온 텍스트 안의 지시문을 명령처럼 실행하지 않도록 프롬프트와 코드 양쪽에서 막습니다.
- 호출 로그 보관 — 어떤 입력에 어떤 도구를 호출했는지 남깁니다.
사고가 났을 때 로그가 없는 쪽이 훨씬 비쌉니다. - 모델 갈아탈 때 재점검 — 이번 9월처럼 며칠 새 여러 모델이 바뀌면, 예전 방어 프롬프트가 그대로 작동한다고 가정하지 마세요.
정리하면 이번 뉴스의 메시지는 "무서워하라"가 아니라 "기본을 다시 하라"에 가깝습니다.
모델을 만든 회사들조차 자기 모델의 사이버 역량을 경고 문구로 적어두는 시점이라면, 우리 쪽에서도 키 목록 한 장과 승인 규칙 한 줄 정도는 갖춰둘 때가 됐습니다.
오늘 30분이면 1번과 2번은 끝납니다.