오늘의 흐름
AI가 사람 대신 일하는 범위가 넓어지면서 질문이 'AI가 할 수 있나'에서 '누가 무엇을 허락하나'로 옮겨 가고 있다. Microsoft는 AI 에이전트(사람 대신 여러 단계를 스스로 처리하는 AI 프로그램)에 직원과 분리된 신원을 주고 작업마다 권한을 좁히는 통제를 발표했다. Anthropic은 코드의 약 90%를 Claude가 쓰는 팀에서 사람이 어느 변경을 꼭 봐야 하는지 위험도별로 나눈 방식을 공개했다.
두 회사의 답은 같은 방향이다. AI에게 일을 넓게 맡기되 권한은 0에서 시작하고, 되돌리기 어려운 일만 사람이 승인한다. Google의 EmbeddingGemma 2는 결이 조금 다르지만, 사내 자료를 외부로 보내지 않고 회사 안에서 검색 부품을 돌릴 수 있게 한다는 점에서 '통제할 수 있는 AI'라는 같은 흐름에 닿아 있다.
Microsoft, 로컬 에이전트 60종에 별도 신원·권한
Microsoft가 10월 19일 보안 블로그에서 사내 AI 에이전트를 '새 내부자'로 보고 통제하는 기능을 발표했다. 직원 PC에서 도는 로컬 에이전트 탐지 대상을 35종 늘려 60종으로 넓혔고, 예로 Claude Code·OpenAI Codex·GitHub Copilot을 들었다. 찾아낸 에이전트는 Microsoft Agent 365와 같은 목록에 모여 소유자·활동·위험을 한곳에서 본다.
달라진 점은 에이전트를 사람 계정의 부속물로 보지 않는다는 것이다. Microsoft Entra Agent ID(직원 계정을 관리하는 Entra에 에이전트용 사원증을 더한 것)를 로컬 에이전트와 보안 센서가 새로 찾아낸 정체불명 에이전트까지 넓혀, 에이전트마다 그것을 부린 직원과 분리된 신원을 준다. 권한은 0에서 시작해 승인된 작업에 필요한 만큼만, 정해진 시간 동안 주어진다.
직원이 직접 설치한 AI 코딩 도구가 그 직원 계정 권한을 통째로 물려받아 움직이던 관행이 관리 대상이 된다는 뜻이다. 위험도가 오르면 읽기는 두고 쓰기만 막거나, 닿을 수 있는 자료·네트워크를 좁히거나, 실행 자체를 멈추는 식으로 단계적으로 대응한다. 영향이 큰 작업은 사람이 확인한 승인을 거치게 할 수 있다.
발표 글에는 정식 출시 여부, 지원 운영체제, 필요한 라이선스가 적혀 있지 않다. 우리 회사 계약에서 언제 쓸 수 있는지는 Microsoft 관리 센터 공지나 담당자를 통해 확인해야 한다.
Claude Code 팀 코드 리뷰 7겹 — 되돌림 40%↓
Anthropic이 10월 15일 Claude Code 팀의 코드 리뷰 방식을 공개했다. 이 팀 코드의 약 90%를 Claude가 쓰고, 6월부터 9월 사이 반영된 변경 요청(PR, 코드 수정을 묶어 '이걸 반영해 달라'고 올리는 요청)은 두 배 넘게 늘었다. 같은 기간 나중에 되돌려야 했던 변경의 비율은 40% 넘게 줄었다고 회사는 밝혔다.
핵심은 사람이 모든 변경을 읽는 대신 일곱 겹의 거름망을 둔 것이다. 변경 요청마다 AI가 먼저 검토하고, 보안 검토와 자동 검사(합치기 전에 테스트를 기계가 돌려 보는 단계)를 통과하지 못하면 합칠 수 없다. 사람 승인은 저위험 0명, 중위험 1명, 고위험 2명이고, 민감 경로와 자동 검사 설정 파일은 항상 사람이 본다. 에이전트의 승인은 사람의 승인으로 치지 않는다.
AI가 만드는 결과물이 사람 검토 속도를 넘어선 팀이라면 '전부 본다'보다 '무엇을 꼭 사람이 보는가'를 먼저 정해야 한다는 뜻이다. 내부 수치로는 한 번의 검토·수정으로 통과한 비율이 65%에서 78%로 올랐고, 다섯 번 넘게 오간 경우는 8.9%에서 1.5%로 줄었다. 이 방식을 제품으로 만든 Code Review for Claude Code는 Team·Enterprise 요금제에서 정식 제공되고, /code-review 명령으로 가벼운 버전을 내 컴퓨터에서 돌릴 수 있다.
수치는 모두 Anthropic이 자기 팀에서 잰 값이고 외부 검증은 없다. 개발자가 적거나 자동 검사가 갖춰지지 않은 팀에서도 같은 효과가 나는지는 아직 모른다.
Google EmbeddingGemma 2, 폰에서 도는 멀티모달 검색
Google이 10월 6일 공개한 EmbeddingGemma 2는 글·코드·이미지·음성·영상을 하나의 좌표 공간에 놓는 임베딩 모델이다. 임베딩은 자료를 '뜻의 좌표'로 바꿔, 단어가 달라도 뜻이 가까운 자료를 찾아 주는 기술이다. 모델 크기는 7억4천만 파라미터(모델이 학습으로 맞춘 숫자 설정값의 개수)이고, Apache 2.0 라이선스라 상업 이용이 허용된다.
필요한 부분만 골라 쓰는 구조다. 글 전용은 2억7천만 파라미터로 Google 측정에서 Pixel 11 Pro 기준 메모리 약 191MB를 쓰고, 이미지·음성까지 모두 붙이면 약 567MB다. 한 번에 읽는 길이는 약 8천 토큰(AI가 글을 잘게 잘라 세는 단위)이고, 결과 좌표는 768칸에서 512·256·128칸으로 줄여 저장 공간을 아낄 수 있다.
사내 문서·회의 녹음·제품 사진을 외부 AI 서비스로 보내지 않고 회사 서버나 노트북에서 검색 색인을 만들 수 있다는 뜻이다. Hugging Face와 Kaggle에서 내려받을 수 있어, 챗봇이 사내 자료를 찾아 답하게 하는 구성의 첫 단계로 시험해 볼 만하다.
성능 수치는 Google 자체 측정이고, 한국어 검색 품질은 공식 자료에서 따로 확인하지 못했다. 우리 문서로 직접 비교해 보기 전에는 기존 검색을 바꿀 근거로 삼기 어렵다.
오늘 해 볼 것
팀 PC에 깔린 AI 코딩·자동화 도구를 목록으로 적고, 각 도구가 누구 계정 권한으로 무엇을 읽고 쓰는지 한 줄씩 붙여 보자. Microsoft가 탐지 대상 예로 든 Claude Code·Codex·GitHub Copilot부터 시작하면 된다.
AI가 만든 결과물 중 사람이 반드시 확인할 영역을 세 가지만 정하자. 결제, 고객 데이터, 외부로 나가는 문구처럼 틀리면 되돌리기 어려운 것부터 고르고, AI의 '확인 완료'는 사람 확인으로 치지 않는다는 원칙을 함께 적는다.
Claude Code를 쓴다면 다음 변경을 올리기 전에 /code-review를 한 번 돌려 지적 사항을 읽어 보자. Team·Enterprise 요금제라면 관리자에게 Code Review 사용 여부를 물어볼 때다.
사내에서 자주 받는 질문 20개와 정답 문서를 짝지어 두고, EmbeddingGemma 2로 찾았을 때 정답 문서가 몇 번째에 나오는지 지금 쓰는 검색과 비교해 보자.