2026년 10월 27일 AI 트렌드: GPT-6.1 Terra, 기업 AI 보안과 모델 운영 사고

2026년 10월 27일 오전 9시 한국 시간 기준, 기업이 살펴볼 AI 소식은 네 가지입니다. OpenAI가 화면을 이해하고 컴퓨터 작업을 수행하는 GPT-6.1 Terra를 발표했습니다. Fortinet은 기업의 AI 사용을 네트워크에서 검사하는 서비스를 공개했습니다. Cloudflare는 지난 8~9월에 발생하고 이미 복구한 모델 운영 사고의 원인을 설명했습니다. Google은 청소년이 AI 연구 과정을 배우는 새 수업을 출시했습니다. 오늘 실무의 질문은 단순합니다. 새 모델이 일을 잘하는지뿐 아니라, 어떤 권한으로 일하고 데이터가 어디를 통과하며 결과를 어떻게 검증할 것인가입니다.

이번 글은 10월 26일 18시부터 27일 09시까지를 우선 조사했습니다. Fortinet 발표는 원문의 시각까지 확인돼 이 구간에 포함됩니다. 나머지 세 원문은 공식 게시 날짜가 10월 26일이지만 정확한 게시 시각이 표시되지 않아 같은 구간에 발표됐다고 단정하지 않습니다. 미국 날짜와 한국 날짜를 섞어 '방금 출시'라고 부르지 않겠습니다. 어제 글의 Qwen Code 권한 규칙과 Vercel Eve 승인·반복 평가 업데이트도 다시 다루지 않습니다.

오늘의 AI 트렌드 한눈에 보기

표의 첫 두 항목은 제품 발표입니다. 세 번째는 10월 26일 공개된 과거 사고 분석이지, 그날 새 사고가 발생했다는 뜻이 아닙니다. 네 번째는 새 범용 모델 출시가 아니라 기존 교육 시리즈의 새 수업입니다. 서로 다른 종류의 소식을 같은 '신제품'으로 묶으면 도입 우선순위가 흐려집니다.

1. GPT-6.1 Terra: 화면을 읽고 컴퓨터 작업을 수행하는 새 모델

OpenAI 공식 발표에 따르면 GPT-6.1 Terra는 시각적 추론, 컴퓨터 사용, 글쓰기와 코딩을 폭넓게 다루는 모델입니다. 발표 자료는 기술 도면을 해석하고, 양식을 채우고, 영상 작업을 살피는 예를 듭니다. OpenAI는 Plus·Pro·Enterprise·Edu 이용자에게 ChatGPT Work와 Codex에서 제공하며, 개발자는 API에서 gpt-6.1-terra로 접근할 수 있다고 밝혔습니다. 이용 가능 여부와 사용량은 각 조직의 계약 및 제품 화면에서 다시 확인해야 합니다.

공급자가 말하는 성능과 실제 도입 판단은 다릅니다

OpenAI는 자체 발표에서 이전 Terra 모델보다 컴퓨터 사용과 사실성, 코딩 평가가 개선됐다고 설명합니다. 표준 API 가격도 입력 100만 토큰당 1달러, 캐시된 입력 100만 토큰당 0.05달러, 출력 100만 토큰당 5달러로 제시합니다. 이 가격과 비교 평가는 발표 시점의 공급자 자료입니다. 조직의 실제 청구액에는 입력과 출력 비율, 재시도, 도구 호출, 사람 검수 시간이 함께 들어갑니다. 특정 벤치마크 수치가 곧 우리 회사의 성공률이 되는 것은 아닙니다.

발표에서 특히 눈에 띄는 것은 화면을 보고 행동하는 능력입니다. 문서를 요약하는 모델은 틀린 답을 사람이 읽고 걸러낼 여지가 있습니다. 반면 화면에서 버튼을 누르고 항목을 고치는 모델은 오류가 즉시 실제 상태로 이어질 수 있습니다. 비용이 낮아져 반복 작업에 붙이기 쉬워질수록, 작업 권한을 넓히기 전에 실패했을 때의 영향을 먼저 분류해야 합니다. 이것은 모델의 발표 내용이 아니라 윤자동의 운영 해석입니다.

기업은 어디부터 시험하면 좋을까요

첫 시험은 읽기와 제안으로 끝나는 작업이 적합합니다. 예를 들어 담당자가 제공한 화면에서 주문서의 필드를 추출하고, 원본 이미지의 해당 위치를 함께 보여주게 합니다. 사람이 값과 근거를 확인한 뒤 시스템에 입력합니다. 다음 단계에서는 테스트 계정과 가짜 자료에서 입력 작업을 맡깁니다. 이때 성공 여부를 '마지막 화면이 그럴듯한가'로 판단하지 말고 저장된 값, 누락 필드, 잘못된 클릭, 복구 가능성까지 봅니다.

제가 자동화 도입에서 먼저 정하는 것은 승인 경계입니다. 고객에게 보낼 메일 작성, 견적 초안 생성, 자료 분류는 모델이 도울 수 있습니다. 발송, 결제, 고객 정보 수정은 별도 권한과 확인 단계가 필요합니다. 화면 조작 능력이 높아졌다는 발표가 이런 확인을 건너뛰어도 된다는 근거가 되지는 않습니다. 실제 업무 화면에는 예외 상태와 권한 팝업이 많기 때문에, 시연 영상보다 우리 조직의 실패 사례가 더 유용한 시험지가 됩니다.

주의점: 벤치마크, 데이터, 검수 비용

OpenAI가 소개한 평가에는 전문 과제와 화면 조작 과제가 포함됩니다. 그러나 공개 자료의 과제 분포와 우리 회사의 앱, 언어, 보안 설정은 다를 수 있습니다. 사내 문서를 넣는다면 데이터 처리 조건과 접근 권한을 먼저 검토해야 합니다. 특히 컴퓨터 사용 작업은 화면에 의도치 않은 개인정보나 다른 고객 자료가 나타날 수 있습니다. 모델이 볼 수 있는 화면과 계정을 줄이고, 중요한 변경에는 작업 전후 기록을 남기는 방식이 안전합니다. 도입 결론은 발표 자료가 아니라 소규모 실제 시험의 오류율과 검수 시간으로 내리는 편이 낫습니다.

2. Fortinet: 기업의 AI 사용을 네트워크 보안 경계에서 다루다

Fortinet의 공식 보도자료는 10월 26일 오전 9시 미국 동부 일광절약시간에 게시됐습니다. 한국 시간으로 같은 날 오후 10시입니다. Fortinet은 FortiGate 고객에게 클라우드 방식의 FortiGuard Inline AI Security Service를 제공한다고 발표했습니다. 함께 설명한 FortiAIGate 기능에는 프롬프트와 모델 응답, MCP 도구 호출, API 활동, 에이전트 행동을 검사하는 통제와 모델 권한·예산·사용량 제한이 들어갑니다.

왜 중요한가: AI 사용 경로가 여러 갈래가 됐습니다

회사에서 AI를 한 웹사이트로만 사용한다면 보안 설정도 상대적으로 단순합니다. 지금은 브라우저 채팅, 개발 도구, 사내 앱의 API, 자동화 에이전트가 서로 다른 경로로 모델을 호출합니다. 같은 고객 정보가 어느 경로로 흘러가는지 모르면 'AI 사용 금지'나 '모두 허용' 같은 거친 규칙만 남습니다. Fortinet 발표는 이 여러 경로의 요청과 응답을 관찰하고 통제하려는 제품 방향을 보여줍니다. 이것이 모든 회사의 모든 AI 요청을 곧바로 볼 수 있다는 뜻은 아닙니다. 네트워크 구성, 암호화된 트래픽의 처리, 제품 배포 방식에 따라 실제 가시성이 달라질 수 있습니다.

발표 자료는 민감정보 유출 방지, 부서별 정책, 모델별 비용 한도, 에이전트 가시성을 강조합니다. 이 중 '어떤 데이터를 밖으로 보내지 못하게 할 것인가'와 '어떤 도구 호출을 허용할 것인가'는 서로 다른 규칙입니다. 프롬프트에서 주민등록번호 패턴을 가리는 것만으로, 에이전트가 잘못된 파일을 수정하는 일을 막을 수는 없습니다. 반대로 도구 권한을 제한해도 사용자가 채팅창에 민감정보를 붙여 넣으면 데이터 노출 문제가 생깁니다. 두 경계를 함께 설계해야 합니다.

기업 실무 적용: 정책보다 먼저 사용 지도를 만드세요

첫 단계는 직원이 쓰는 AI 경로를 분류하는 것입니다. 공식 승인된 웹 서비스, 사내 앱에서 호출하는 API, 개발자의 CLI와 편집기, 이름 모를 브라우저 확장을 구분합니다. 두 번째는 경로마다 다루는 자료를 적습니다. 공개 자료만 쓰는지, 고객 정보와 계약서를 다루는지, 내부 코드나 인증 정보를 볼 수 있는지 확인합니다. 세 번째는 행동을 나눕니다. 조회·요약과 외부 전송·상태 변경은 같은 승인 규칙을 쓰기 어렵습니다.

그다음 제품을 평가한다면 판매 자료의 기능 목록보다 우리 환경의 실제 흐름을 시연해야 합니다. 특정 모델 API 호출을 차단했을 때 업무 앱에는 어떤 오류가 보이는지, 로그에는 필요한 근거가 남는지, 허용된 요청이 얼마나 지연되는지를 측정합니다. 외부 프롬프트만 검사하는지 도구의 실제 실행 결과도 추적하는지 확인해야 합니다. 공급자가 소개한 탐지 범위와 오탐 수준은 회사별 시험에서 다시 확인할 항목입니다. 윤자동의 해석은 보안 제품 하나의 도입보다 AI 자산 목록, 작업 권한, 사고 대응 절차를 같이 세우는 쪽이 먼저라는 것입니다.

주의점: 검사 자체도 데이터 처리가 됩니다

프롬프트와 응답을 검사하는 서비스는 업무 데이터가 지나는 위치가 됩니다. 어떤 내용이 로그에 남고, 보관 기간은 얼마이며, 관리자에게 어떤 범위로 보이는지 확인해야 합니다. 사내 전용 모델을 쓰는 조직이라면 데이터가 외부 클라우드로 나가는지, 자체 호스팅 구성이 가능한지 살펴볼 필요가 있습니다. Fortinet은 자체 호스팅 선택지도 설명하지만, 모든 기능이 동일한 조건으로 제공된다는 뜻으로 확대하면 안 됩니다. 실제 계약 범위와 설정 화면을 확인해야 합니다.

3. Cloudflare: GLM 5.3 사고의 핵심은 과거 요청 데이터의 교차 노출

Cloudflare의 공식 사고 분석은 10월 26일 게시됐습니다. 사건 자체는 새로 일어난 일이 아닙니다. Cloudflare 설명에 따르면 문제가 있었던 기간은 8월 27일부터 9월 9일까지이고, 9월 8일 외부 연구자의 제보 뒤 9월 9일 모델을 중단·수정·복구했습니다. 10월 26일은 연구자와 오픈소스 프로젝트 측과 함께 기술적 원인을 공개한 날짜입니다. '10월 26일 AI 데이터 유출 발생'이라고 쓰면 사건 날짜가 틀립니다.

Cloudflare는 Workers AI의 GLM 5.3 모델에서 일부 매우 긴 요청의 응답에 다른 고객 요청의 내용이 섞였다고 밝혔습니다. 회사가 확인한 영향 응답은 155건이며, 의도적 악용 증거는 찾지 못했다고 설명합니다. 다른 Workers AI 모델은 영향받지 않았다는 것도 Cloudflare의 조사 결과입니다. 이 숫자와 범위는 현재 공개된 회사 보고에 따른 것이고, 공개 자료만으로 피해 내용을 독립 검증할 수는 없습니다.

무슨 기술 문제가 있었나요

핵심은 모델이 앞서 읽은 내용을 빠르게 이어 쓰는 데 사용하는 KV 캐시입니다. Cloudflare의 설정에서는 모델이 받아들인다고 표시한 최대 입력 길이보다 실제로 저장할 수 있는 캐시 공간이 작았습니다. 길이가 넘는 요청은 원래 오류로 끝나야 했습니다. 그런데 사용하던 오픈소스 추론 엔진 SGLang의 분산 처리 경로에서 거절된 요청이 완전히 멈추지 않았고, 이전 요청의 캐시 일부를 참조한 채 응답이 생성됐다고 회사는 설명합니다.

이 설명에서 배울 점은 '긴 문서 입력은 위험하다'는 단순 구호가 아닙니다. 서비스가 HTTP 성공 응답을 돌려줘도 내부 상태가 올바르다는 보장은 없다는 점입니다. Cloudflare도 사전 시험에서 성공 상태와 처리 속도를 확인했지만 출력 내용과 캐시 크기 조건을 충분히 검증하지 못했다고 적었습니다. 특히 여러 고객이 같은 모델 기반 시설을 공유하는 서비스라면 요청 간 분리 조건을 기능 시험에 넣어야 합니다.

운영팀이 확인할 질문

자체 모델 서비스를 운영한다면 선언된 컨텍스트 길이와 실제 메모리 풀 크기가 맞는지 확인합니다. 한도를 넘는 입력이 들어왔을 때 오류가 확실히 반환되는지도 시험합니다. 이어 서로 다른 테스트 계정에 식별 가능한 가짜 표식을 넣고, 한 계정의 응답에 다른 계정의 표식이 나타나지 않는지 확인할 수 있습니다. 캐시를 다른 서버로 전송하는 구성이라면 전송된 길이와 예약된 길이가 일치하는지도 점검 대상입니다. 이런 시험은 개인정보나 실제 고객 자료가 아닌 가짜 데이터로 수행해야 합니다.

Cloudflare는 설정을 수정하고 엔진 오류 경로를 고쳤다고 설명합니다. SGLang을 직접 운영하는 사업자에게는 관련 수정이 반영된 v0.5.22 이상 사용을 권고합니다. 조직이 SGLang을 쓰지 않는다면 그 버전 번호를 그대로 체크리스트에 넣을 필요는 없습니다. 대신 자신이 쓰는 추론 엔진의 테넌트 분리, 캐시 소유권, 오류 처리, 업데이트 절차를 확인하면 됩니다. 모델 공급자에게 맡기는 경우에도 사고 공지 수신과 영향 범위 확인 절차는 계약·운영 과정에 필요합니다.

해석의 범위

이번 사고는 모델이 스스로 남의 정보를 '추론해서 알아낸' 사례로 설명하면 안 됩니다. Cloudflare가 설명한 것은 서비스의 캐시 관리와 오류 처리 문제입니다. 모델 출력의 비밀성은 모델 자체의 안전성 평가만으로 결정되지 않습니다. 요청을 받아 저장하고 다른 요청과 분리하는 기반 시설도 같은 수준으로 점검해야 합니다. 윤자동은 기업의 AI 도입 검토표에 '모델 성능'과 별도로 '운영 환경에서 고객별 자료가 분리되는가'를 넣는 계기로 봅니다.

4. Google AI Quests: 결과보다 검증 과정을 가르치는 새 수업

Google 공식 블로그는 10월 26일 AI Quests의 세 번째 수업 Polar Peaks를 출시했다고 밝혔습니다. 11~14세 학습자가 뇌 신경망 지도를 만드는 연구 과정을 게임처럼 따라가며 데이터 정리와 모델 시험을 경험하도록 설계됐습니다. Google Research와 Stanford Accelerator for Learning이 함께 만든 시리즈입니다. Google은 교사용 AI 교육 모듈도 제공한다고 설명했지만, 세 번째 수업에 대응하는 교사 모듈은 다음 달 공개 예정입니다. 예정된 기능을 이미 배포된 것으로 적지 않는 것이 중요합니다.

기업 교육에도 통하는 설계 원칙

이 수업이 기업용 제품 발표는 아닙니다. 그래도 교육 설계에는 참고할 점이 있습니다. AI 교육을 '좋은 프롬프트 몇 개 암기'에서 끝내면 실제 업무에서 검증하기 어렵습니다. 자료를 깨끗하게 만들고, 모델 결과를 시험하고, 사람이 오류를 찾는 순서를 체험하게 해야 합니다. Google이 소개한 학습 과정도 사람이 살펴보는 단계와 비판적 판단을 강조합니다. 이는 원문 내용이고, 이를 신입 직원 교육에 옮겨 보자는 것은 윤자동의 제안입니다.

예를 들어 신규 직원에게 가상의 고객 문의 20건을 주고 AI로 분류하게 할 수 있습니다. 다음에는 정답과 다른 건만 살펴보는 것이 아니라, 비슷한 표현 때문에 분류가 흔들린 사례를 모읍니다. 직원은 입력 자료의 품질과 분류 기준을 고치고 다시 시험합니다. 마지막으로 고객에게 발송하거나 기록을 바꾸는 단계는 사람이 확인하도록 경계를 세웁니다. 도구를 잘 쓰는 것과 결과를 책임지는 것은 함께 배워야 합니다.

주의점: 교육 성과를 과장하지 않기

Google은 이 시리즈의 참여 현황도 소개하지만, 참여 횟수를 곧바로 학습 성과로 해석할 수는 없습니다. 회사 교육에 적용할 때는 수료율보다 실제 업무의 분류 정확도, 근거 제시, 오류를 찾는 능력을 따로 보아야 합니다. 청소년 대상 수업을 그대로 직원 교육에 복사하기보다, 학습 순서만 가져와 회사의 업무 사례와 승인 규칙에 맞게 다시 설계하는 편이 좋습니다. 발표된 학습 자료의 제공 언어와 실제 접근 가능 여부도 사용 전에 확인해야 합니다.

기업이 오늘 바로 점검할 실행 체크리스트

1. AI 작업 목록을 나눕니다. 읽기·요약·초안, 내부 상태 변경, 외부 발송·금전 처리의 권한을 분리합니다. 새 모델 시험은 읽기와 제안 업무부터 시작합니다.
2. 모델 성능을 우리 데이터로 시험합니다. 발표사의 벤치마크 점수 대신 대표 업무 사례와 실패 사례를 사용합니다. 정확도뿐 아니라 검수 시간과 복구 비용을 기록합니다.
3. AI가 지나는 경로를 그립니다. 직원의 웹 서비스, 개발 도구, 사내 API, 자동화 도구에서 어떤 자료가 이동하는지 적습니다. 각 경로의 관리자와 보관 정책을 확인합니다.
4. 사람 승인 지점을 명시합니다. 고객 발송, 공개 게시, 데이터 수정, 결제처럼 되돌리기 어려운 행동에는 누가 어떤 최종 내용을 확인하는지 정합니다.
5. 모델 운영자의 사고 대응을 확인합니다. 고객별 자료 분리, 캐시 관리, 과도하게 긴 입력의 오류 처리, 사고 공지 경로를 공급자에게 묻습니다.
6. AI 교육에 검증 단계를 넣습니다. 직원이 자료 정리, 결과 시험, 오류 분석, 재시험을 직접 해 보게 합니다. 'AI가 답했다'는 사실만으로 업무 완료로 보지 않습니다.

체크리스트 전체를 하루에 끝낼 필요는 없습니다. 중요한 것은 지금 쓰는 AI 도구 하나를 골라 실제 자료 흐름과 승인 지점을 써 보는 일입니다. 그 한 장이 있으면 새 모델이나 보안 서비스를 평가할 때 제품 설명과 우리 회사의 필요를 비교하기 쉬워집니다.

자주 묻는 질문

GPT-6.1 Terra가 나오면 기존 업무 자동화를 바로 바꿔야 하나요?

아닙니다. OpenAI는 성능과 비용 개선을 발표했지만, 우리 조직의 정확도와 총비용은 별도 시험이 필요합니다. 같은 업무 사례를 기존 모델과 새 모델에 적용하고 결과·검수 시간·오류 복구 시간을 비교하세요. 권한이 필요한 작업은 테스트 계정에서 먼저 확인하는 편이 안전합니다.

Fortinet의 새 서비스가 있으면 직원의 모든 AI 사용을 자동으로 통제할 수 있나요?

공식 발표에는 프롬프트, 응답, 도구 호출과 사용 정책을 검사하는 기능이 나옵니다. 실제로 보이는 범위는 회사의 네트워크와 앱 연결 방식에 따라 달라집니다. 시범 적용에서 승인된 서비스와 비승인 경로를 각각 확인하고, 차단과 기록이 원하는 방식으로 작동하는지 시험해야 합니다.

Cloudflare 사고는 10월 26일에 발생한 건가요?

아닙니다. Cloudflare 설명에 따르면 노출 기간은 8월 27일~9월 9일이고, 9월 9일에 서비스를 수정·복구했습니다. 10월 26일은 사고 분석을 공동 공개한 날짜입니다. 사고 발생일, 복구일, 보고서 공개일을 구분해야 현재 위험을 정확히 이해할 수 있습니다.

AI 교육에서 가장 먼저 가르칠 것은 프롬프트 작성인가요?

프롬프트도 필요하지만, 실제 업무에서는 입력 자료의 상태와 결과 검증이 먼저입니다. 직원이 같은 질문을 반복해도 데이터가 잘못됐거나 판단 기준이 없으면 결과가 흔들립니다. Google의 새 학습 과제처럼 데이터 정리, 시험, 사람의 확인을 한 흐름으로 가르치는 접근을 참고할 만합니다.

공식 출처

• OpenAI, Introducing GPT-6.1 Terra — 2026-10-26 게시 날짜 확인, 정확한 시각 미표시.
• Fortinet, FortiGuard Inline AI Security Service 발표 — 2026-10-26 09:00 EDT, 한국 시간 22:00.
• Cloudflare, GLM 5.3 Workers AI 교차 요청 노출 사고 분석 — 2026-10-26 공개, 실제 노출은 8~9월.
• Google, Our newest AI Quest: Mapping the human brain — 2026-10-26 게시 날짜 확인, 정확한 시각 미표시.