01
미국 · 프론티어 AI 모델 출시
9/3~4 출시
오픈AI, GPT-6 아스트라 출시 — 자체 기준 사이버 "치명적" 임계치 최초 도달
오픈AI는 9/3 GPT-6 아스트라를 공개하고 자사 사이버보안 프로그램 데이브레이크 고객 대상으로 우선 출시했다. 9/4부터는 챗GPT 플러스·프로·비즈니스·엔터프라이즈 요금제 및 API, AWS 베드록으로 이용 대상이 확대됐다. 회사는 이 모델이 자체 준비 프레임워크상 사이버보안 "치명적(Critical)" 역량 등급에 도달한 최초의 모델이라고 확인했다 — 지난달 훈련이 일시 중단됐을 당시 "배제할 수 없다"고 했던 등급이 실제로 확정된 것이다.
모델 개요
아스트라는 텍사스 스타게이트 시설에서 10만 개 이상의 GPU를 사용한 오픈AI 사상 최대 규모 훈련으로 만들어졌다. 다른 모델이 훈련 과정에서 유의미한 감독 역할을 수행한 첫 사례이기도 하다. 회사는 컴퓨터·브라우저 사용, 소프트웨어 엔지니어링, 사이버보안, 과학, 전문 업무 영역에서 "최고 수준"이라고 밝혔다. 시연에서는 KiCad로 인쇄회로기판을 설계하고, Unity로 3D 도시를 구현하며, W-2 양식으로 세금 신고서 초안을 작성하는 등의 작업을 수행했다. 사이버보안 관련 고급 기능에 대한 접근은 별도로 제한된다.
"AGI 시대" 선언과 반박
사장 그렉 브록만은 기자 브리핑에서 아스트라를 "세대를 가르는 도약"이라 표현하며 "AGI(범용인공지능)의 도래로 보일 수 있다"고 말했다. 그는 개인적으로 오픈AI가 AGI에 도달했다고 믿는다면서도 판단은 이용자에게 맡긴다고 언급한 뒤 브리핑을 "AGI 시대에 오신 것을 환영한다"는 말로 마쳤다. 그러나 TechTimes 보도에 따르면 해당 벤치마크를 만든 독립 기관은 오픈AI 자체 발표치보다 37%포인트 낮은 점수를 별도로 공개했다 — AGI 프레이밍에 대한 제3자 반박이 즉각 제기된 것이다.
안전성 관련 우려
최고과학자 야쿠브 파초키는 같은 브리핑에서 아스트라의 치명적 등급 사이버 역량을 억제하기 위해 사용 중인 모니터링 체계가 "취약하며 부정적 방향으로 추세를 보이고 있다"고 인정했다. 이 안전 시스템은 추론 컴퓨트의 약 20%를 소모하며, 정당한 작업도 개입으로 중단시킬 수 있다. 앞서 The Information은 아스트라 개발에 사용된 한 훈련 기법이 AI의 사고 과정을 인간이 이해하는 능력을 크게 저하시킬 수 있다고 보도해, 안전성 저하 우려에 대한 온라인 비판이 확산된 바 있다. 수정된 시험에서 아스트라는 알려지지 않은 제로데이 취약점 2건을 스스로 발견·악용하기도 했다.
GPT‑6 Astra can find previously unknown security flaws and develop new ways to exploit them across many well-protected systems without a person guiding each step.
— OpenAI, Safety overview: GPT-6 Astra, 9/3 2026
3주간 흐름
이 모델은 8월 중순 자체 기준상 "치명적" 임계치를 배제할 수 없다는 이유로 프론티어 훈련이 일시 중단됐던 모델과 동일하다. 이어 8/26 공개된 인터뷰에서는 CEO 샘 올트먼의 연내 AGI 확신 발언의 핵심 근거로 인용됐다. 이번 주 실제 출시와 함께 해당 등급 도달이 추정이 아닌 확정 사실로 전환됐다.
한국 관련
사이버보안 "치명적" 등급 모델의 실제 출시는, 한국 AI 기본법의 고영향 AI 판정 기준에 구체적 참조점을 제공한다 — 등급 판정과 실제 배포 사이의 시차, 모니터링 체계의 신뢰도, 접근 제한 범위 설정 방식 등이 규율 설계에 직접 적용 가능한 사례다. 국내 기업이 데이브레이크 등 오픈AI 사이버보안 프로그램을 도입할 경우 안전 시스템의 한계(모니터링 취약성, 정당 작업 중단 가능성)를 사전에 검토할 필요가 있다.
중요도 5/5 — 프론티어 랩 최초 "치명적" 등급 모델 실제 출시
02
미국 · AI 기업 인수합병
9/3 발표
엔비디아, 오픈소스 AI 플랫폼 허깅페이스 129억3,000만 달러에 인수
엔비디아는 9/3(현지시간) 오픈소스 AI 개발 플랫폼 허깅페이스를 129억3,030만 달러에 인수하는 계약을 체결했다고 발표했다. 인수금액에는 합류하는 허깅페이스 직원 대상 주식보상 최대 10억 달러가 포함됐다. 허깅페이스는 1,800만 명 이상의 개발자가 이용하며 300만 개 이상의 AI 모델, 50만 개 데이터셋, 100만 개 애플리케이션이 등록된 플랫폼이다. 2023년 투자 유치 당시 기업가치는 45억 달러였다.
인수 조건
젠슨 황 CEO는 인수 후에도 허깅페이스를 특정 기술에 종속되지 않는 개방형·중립적 플랫폼으로 유지하겠다고 밝혔다. 이용자는 엔비디아 하드웨어 외 다른 반도체 업체의 하드웨어와 클라우드 서비스도 계속 지원받으며, 엔비디아 컴퓨팅 장비 사용이 의무화되지 않는다. 허깅페이스 창업자 클레망 들랑그를 비롯한 경영진은 최소 6년간 회사에 잔류하기로 했다. 인수를 통해 엔비디아는 반도체·컴퓨팅 인프라를 넘어 AI 모델 유통·평가·배포 영역으로 사업을 확장하게 됐다.
배경
엔비디아는 최근 오픈웨이트 AI 진영에 대한 투자를 확대해왔다. 8월에는 미국 AI 스타트업 풀사이드와 60억 달러 규모 소프트웨어 라이선스 계약을 체결한 바 있다. 지난달 24일 허깅페이스가 130억 달러 이상 밸류에이션으로 매각을 타진 중이라는 보도가 나온 지 열흘 만에 이번 거래가 성사됐다. EBN은 이번 인수가 오픈웨이트 AI 생태계 장악을 통해 오픈AI·Anthropic 등 폐쇄형 모델 업체를 견제하려는 행보로 해석된다고 보도했다.
분석
포레스터리서치 애널리스트 제프 폴러드는 이번 인수로 엔비디아가 컴퓨팅과 AI 모델, 데이터세트, 개발자 워크플로 등 AI 공급망 전반에 더 가까이 다가서게 됐다고 평가했다. 그는 AI 보안을 강화할 기회가 생기는 동시에, 개방형 AI 생태계의 핵심 영역에 엔비디아의 영향력이 집중될 수 있다고 지적했다. 앞서 엔비디아의 Arm 인수는 시장 지배력 과도 확대 우려로 규제당국의 반대에 막힌 바 있어, 이번 거래도 유사한 심사 대상이 될 가능성이 있다.
한국 관련
허깅페이스는 국내 다수 AI 스타트업·연구기관이 모델·데이터셋 배포에 활용하는 플랫폼이다. 인수 후에도 개방성이 유지된다는 것이 엔비디아 측 설명이나, 장기적으로 플랫폼 운영 방침 변화 여부를 확인할 필요가 있다. 이 사안은 지난 7월 브리핑에서 다룬 미국 AI 업계 내 개방형·폐쇄형 노선 논쟁의 연장선에 해당하며, 엔비디아가 개방형 진영에 대규모 자본을 투입하는 흐름이 이어지고 있음을 보여준다.
중요도 5/5 — AI 개방형 생태계 구조 재편
03
미국 · AI 규제 정책
9/3 보도
저커버그, 트럼프와 비공개 통화서 국가 AI 규제기구안에 반대 의견 전달
정치코가 9/3 보도한 바에 따르면 메타 CEO 마크 저커버그는 8월 17일이 속한 주 트럼프 대통령과의 이전에 알려지지 않은 통화에서, 백악관 내에서 논의 중인 국가 AI 규제기구 설립안이 결함이 있다는 의견을 직접 전달했다. 해당 통화 내용을 직접 아는 백악관 고위 관계자가 Politico에 확인했다.
쟁점이 된 제안
문제의 제안은 구글 딥마인드 CEO 데미스 하사비스가 백악관에 제시한 것으로, 증권업계 자율규제기구 FINRA를 본뜬 독립기구를 만들어 증권거래위원회(SEC) 감독 하에 프론티어 AI 모델을 사전 심사하는 방식이다. 백악관 내 일부 고위 관계자들이 이 안을 지지해온 것으로 알려졌다. 저커버그는 트럼프에게 해당 기구 신설 자체를 명시적으로 막아달라고 요청하지는 않았으며, 대신 기구가 설립될 경우 지도부 구성이 트럼프 행정부의 완화된 접근 방식을 반영해야 한다는 의견을 전달한 것으로 확인됐다.
경쟁 제안 — MPA식 모델
트럼프 행정부 전 AI·암호화폐 차르 데이비드 색스는 FINRA식 규제기구를 "AI판 DMV(차량관리국)"라 부르며 반대해왔다. 색스는 8/21 팟캐스트에서 영화등급제를 운영하는 미국영화협회(MPA)를 본뜬 자율등급제를 대안으로 제시했으며, 일론 머스크도 이 방식을 지지하는 것으로 알려졌다. 두 방안 모두 정부 규제기구가 아니라는 점에서 공통되며, 쟁점은 자율규제의 정도에 있다.
반복되는 패턴
The Next Web은 이번 사례를 "워싱턴이 제안한 모든 구속력 있는 AI 심사 방안이 결국 자율적인 것으로 되돌아간" 기존 패턴의 최신 사례로 평가했다. 90일 의무 모델 심사가 30일 자율 검토로 축소된 6월 행정명령 사례가 대표적이다. 색스는 지난 5월에도 서명식 당일 아침 트럼프에게 전화를 걸어 첫 AI 행정명령 서명을 지연시킨 바 있다.
한국 관련
미국의 AI 규제기구 설립 논의가 자율규제 방향으로 수렴하는 추세는, 한국 AI 기본법 시행령의 고영향 AI 안전성 검증 체계 설계에 참고할 지점이다. 특히 빅테크 경영진이 비공개 채널을 통해 규제 설계 초기 단계부터 개입하는 방식은, 국내 정책 결정 과정에서의 이해관계자 참여 절차 투명성 확보 필요성을 시사한다.
중요도 4/5 — 빅테크의 AI 규제 설계 개입 정황 확인
04
미국 · AI 교육 정책
9/2~3 발표
뉴욕시·로스앤젤레스 교육구, 학생 대상 생성형 AI 사용 제한
블룸버그통신에 따르면 미국 최대 교육구인 뉴욕시 교육당국은 9/2 만 2세부터 8학년 학생을 대상으로 AI 도구 사용을 1년간 금지한다고 발표했다. 미국 2위 규모 교육구인 로스앤젤레스 통합교육구(LAUSD)도 이번 학기부터 교육구 소유 기기에서 학생의 생성형 AI 사용을 제한하고 있다고 9/3 교육위원회 회의에서 공개했다.
LAUSD 조치 배경
LAUSD 교육위원회는 올해 초 청소년의 장시간 스크린 노출이 건강·정서에 미칠 영향을 우려해 교실 내 디지털 기기 사용을 제한하기로 결정했다. 이에 따라 저학년 디지털 기기 사용이 금지됐고, 6월 확정된 스크린 사용 제한 정책의 일환으로 8월 새 학년도부터 생성형 AI 접근이 함께 차단됐다. 교육기술·혁신 담당 책임자 도미닉 카구이오아는 콘텐츠와 플랫폼에 대한 제한이 이전보다 훨씬 엄격해졌으며 생성형 AI를 포함한 모든 AI 적용 서비스가 현재 제한 대상이라고 밝혔다.
이전 시도와의 대비
이번 조치는 2024년 자체 AI 플랫폼 도입을 발표했던 LAUSD의 기존 입장과 상당한 차이를 보인다. 당시 플랫폼 개발을 맡았던 업체가 파산했고 연방 검찰이 창업자를 사기 혐의로 기소했으며, 교육구 관계자와 해당 업체의 관계에 의문이 제기되고 FBI가 업체 사무실을 압수수색한 이후 당시 교육감이 사임했다. 이후 교육위원회는 스크린 사용 제한과 함께 AI 관련 포괄적 정책을 제안할 위원회를 설치했다.
제기된 우려
이번 정책은 교육구 소유 기기에만 적용되며, 학생이 개인 기기로 챗GPT 등을 이용해 과제를 하는 것은 제한하지 못한다. 교육위원 닉 멜보인은 가정에서 생성형 AI로 과제를 작성할 수 있는 학생과 그렇지 못한 학생 사이에 새로운 불평등이 발생할 수 있다고 지적했다. 미국 공중보건서비스단장은 5월 아동·청소년의 스크린 사용에 따른 건강 위험 증거가 늘고 있으며 AI·챗봇 사용도 정신적·신체적 웰빙에 새로운 위험을 초래한다고 경고한 바 있다. 커먼센스미디어의 이베트 렌테리아는 주요 AI 제품 다수가 안전이나 학습 지원을 염두에 두고 설계되지 않았다며, 학교의 AI 도입 전 충분한 검증을 권고했다.
한국 관련
미국 최대 교육구들의 AI 사용 제한 조치는 국내 교육 현장의 생성형 AI 도입 정책 설계에 참고할 사례다. 특히 교육구 소유 기기와 개인 기기 간 규제 공백, 그로 인한 계층 간 불평등 우려는 국내에서도 동일하게 발생할 수 있는 쟁점으로, AI 기본법 시행령 및 교육부 지침에 관련 기준을 사전에 마련할 필요가 있다.
중요도 3/5 — 미국 주요 교육구 AI 사용 제한 확산
05
한국 · AI 국제협력
9/3 확인
과기정통부, 유럽에 두 번째 해외 AI 공동연구거점 구축 추진
머니투데이가 9/6 단독 보도한 바에 따르면 과학기술정보통신부와 정보통신기획평가원(IITP)은 내년 유럽 현지에 글로벌 AI 공동연구랩 구축을 추진한다. 이정헌 더불어민주당 의원실이 과기정통부로부터 제출받은 사업설명서를 근거로 한 보도다. 2024년 미국 뉴욕에 개소한 글로벌 AI프론티어랩에 이은 두 번째 해외 거점이다.
추진 내용
공동연구랩은 유럽 주요국 AI 연구기관과 함께 차세대 AI 기술, 윤리·안전성 검증 등을 연구하는 거점으로 계획됐다. 과기정통부는 내년 유럽 현지 물리적 거점 구축을 목표로 약 30억 원 규모 예산안을 편성했다. 유럽 거점이 구축되면 뉴욕 글로벌 AI프론티어랩과 연계해 한국을 중심으로 한 한·미·유럽 AI 연구협력망을 구성할 계획이다.
목적
IITP 관계자는 높은 기술력을 보유한 미국 기업들도 유럽 시장 진출에 어려움을 겪는다고 언급하며, 공동연구를 추진하는 동시에 국내 기업의 유럽 시장 진출을 대비해 유럽 AI 안전 기준에 대한 상호이해를 높이려는 목적이라고 설명했다. GPU와 학습데이터 등 대규모 자원이 필요한 AI 연구에서 국가 간 협력으로 개별 국가의 한계를 보완한다는 목표도 제시됐다.
확인 필요 사항
유럽 거점의 구체적 입지·참여 연구기관·예산 확정 시기, 유럽 AI Act 안전 기준과의 정합성 확보 방안, 뉴욕 거점의 기존 운영 성과가 유럽 거점 설계에 어떻게 반영되는지 후속 확인이 필요하다.
중요도 3/5 — 한국 AI 국제협력 거점 확대
정책 캘린더 · 배경 맥락
아래는 이번 주(8/31~9/6)에 확정된 뉴스가 아니라 참고용 예정 일정 및 진행 중인 사안이다.
진행중
DC Circuit — Anthropic vs 펜타곤 판결 대기(5/19 구두변론 이후 16주 경과)
9월 초
미중 AI 양자대화 개최 예정(9/24 미중 정상회담 사전 절차)
9/24
Xi 워싱턴 방문 — 미중 2차 정상회담, AI 핵심 의제로 예상
9월 말~10월
Anthropic IPO 목표 시점 — 최대 2조 달러 밸류에이션 거론
11/18~19
APEC 중국 2026 정상회의, 선전
2027.12.2
EU AI Act Annex III 고위험 AI 의무 발효
주요 시사점
1. 역량 평가 등급과 자체 안전 체계 사이의 격차
오픈AI는 자체 기준상 최고 위험 등급 모델을 실제로 출시하면서, 동시에 이를 억제할 모니터링 체계가 "취약하다"고 인정했다. 등급 판정 자체는 확립됐으나 그에 상응하는 억제 수단의 신뢰도는 판정 수준을 따라가지 못하고 있다는 것이 회사 스스로의 설명이다.
2. AI 규제 설계에 대한 업계 개입 경로의 다양화
저커버그의 비공개 통화 사례는 규제 설계 초기 단계에서부터 업계 의견이 반영되는 경로가 존재함을 보여준다. 유사한 사례로 5월 행정명령 서명 지연, 6월 행정명령의 의무 조항 자율화가 있다. 구속력 있는 AI 심사 방안이 자율적 형태로 수렴하는 패턴이 반복적으로 확인된다.
3. AI 공급망 집중과 사용 제한이 서로 다른 층위에서 진행
엔비디아의 허깅페이스 인수는 AI 모델 유통 계층에서의 집중을 보여주는 한편, 교육 현장에서는 AI 사용 자체를 제한하는 조치가 확산되고 있다. AI 기술의 영향력이 최전선 역량, 산업 구조, 개별 이용자 층위에서 동시에 조정되고 있음을 시사한다.