주간 AI 정책 브리핑(6.1~6.7)
Anthropic은 개발을 멈추자하고 NVIDIA는 더 만들라 했다.
규제는 미국이 멈춘 사이 중국은 실행한다.
Anthropic은 AI 재귀적 자기개선 임박을 경고하며 국제적 개발 중단을 요청했다. 같은 주에 젠슨 황은 서울 재계 총수들과 삼겹살을 먹으며 "더 많이 만들어 달라"고 했다. 중국은 AI 단속을 강화했고, 미국 의회는 또 다시 결정을 미뤘다.
Anthropic "재귀적 자기개선 임박 — 국제적 개발 중단 필요". "미사일 사일로보다 AI 훈련을 숨기기가 훨씬 쉽다"
6/4 Anthropic 연구 책임자 Marina Favaro·공동 창립자 Jack Clark이 공식 블로그에 발표. AI가 인간 개입 없이 스스로 성능을 향상하는 재귀적 자기개선(RSI) 단계에 예상보다 빠르게 접근하고 있으며, 이에 대비할 사회적·제도적 준비가 부족하다고 경고. "대부분의 기관이 대비하기 전에 예상보다 빨리 도래할 수 있다."
2. 국제 감속 합의가 필요하다 — 개발 속도를 늦추거나 일시 중단할 수 있는 글로벌 장치. AI 정렬(alignment) 연구가 기술 발전 속도를 따라잡을 시간을 벌어야 한다.
3. 검증 메커니즘이 핵심 — 경쟁 기업들이 감속 규정을 준수하는지 확인할 수단 없이는 합의가 무의미. 그러나 "미사일 사일로보다 AI 학습 작업을 숨기는 것이 훨씬 쉽다."
국제적 감속 합의가 없다면 상업적·지정학적 경쟁에 휩쓸린 여러 국가와 기업들이 엄청난 속도로 기술을 개발하는 현재 상황이 계속될 것이다.
— Marina Favaro·Jack Clark, Anthropic 블로그, 6/4 2026
One Big Beautiful Bill 통과 — 그러나 Warner AI 수정안 49:49 부결. FISA도 47:52 막혔다. 의회는 이번 주도 결정을 미뤘다
6/5 새벽 상원이 야간 Vote-a-rama에서 $70억 이민 자금 조달 예산 조정안(One Big Beautiful Bill)을 통과시켰다. 그러나 같은 vote-a-rama에서 Warner 수정안(AI 관련 DNI 겸직 금지)이 49:49로 부결됐다. 직후 FISA 702 연장안도 47:52로 막혔다. 하루 밤 사이 두 건의 AI·감시 관련 투표가 모두 실패했다.
중국 Qinglang 2026 집행 — 분기별 알고리즘 감사 의무화. AI 딥페이크·사기·허위정보 4개 범주 표적. "2025보다 훨씬 강한 법적 이빨"
Lexology 6월 AI Brief: CAC·공안부가 2026 Qinglang(청랑·清朗) 캠페인을 진행 중이다. 2025년 캠페인 결과 AI 제품 3,500개 삭제·불법 콘텐츠 96만 건 제거·계정 3,700개 폐쇄. 2026년 버전은 의무 AI 콘텐츠 라벨링 + 분기별 알고리즘 감사가 추가돼 집행 강도가 대폭 강화됐다.
2. AI 생성 허위정보·소셜봇: 조직적 허위 행동(coordinated inauthentic behavior)
3. LLM 등록 미준수: 필수 LLM 신고·등록 의무 위반
4. 개인정보·IP 위반: 훈련 데이터 관련 저작권·개인정보 침해
제재 수위: 행정 처분·서비스 정지·고정 기한 내 시정·심각한 경우 형사 고발
EU AI Act 8/2 — D-59일. Omnibus 6월 채택이 이번이 마지막 창. Article 50 딥페이크 라벨링은 어떤 경우에도 발효
오늘(6/7) 기준 8월 2일까지 56일. Omnibus 공식 채택을 위한 6월 EU 이사회·의회 일정이 이번 주가 마지막 실질적 창이다. 채택이 늦어지면 7월 OJ 게재 → 8/2 이전 발효가 불가능해진다. 고위험 AI 기한 연기가 법적 효력을 얻지 못하면 원래 기한이 살아난다.
· AI 생성 콘텐츠 — 기계 판독 가능 방식으로 표시 의무
· 딥페이크 — 명확한 가시적 라벨 의무
· GPAI 제공자 — EU AI 오피스 조사·정보 요청 대응 의무
· 위반 시 최대 €1,500만 또는 글로벌 매출 3% 과징금
Omnibus 통과 시 연기되는 것:
· Annex III 고위험(고용·교육·금융): 2027.12.2
· Annex I 제품 내장(의료기기·기계): 2028.8.2
· 워터마킹·누디파이어 금지 발효: 2026.12.2
젠슨 황 서울 4일 — "더 많이 만들어 달라". 재계 총수 삼겹살 회동·삼성·SK하이닉스·현대차·서울대. 7만 명이 일정 추적했다
Nvidia CEO Jensen Huang이 6/5 서울에 도착해 4일 일정을 시작했다. 이번 방문은 7개월 전 APEC 방문에 이은 두 번째로, 최장 체류 일정이다. 반도체를 넘어 로보틱스·Physical AI·데이터센터 인프라로 협력을 확장하는 것이 핵심 목적. "Jensen Huang KR Tracker" 웹사이트가 7만 명 이상 방문 — 투자자들이 방문 일정별 관련주를 추적했다.
6/6 (토) — 기업 회동: 삼성전자·SK하이닉스·현대차 개별 회동. 삼성과 차세대 HBM4·GDDR7 공급 논의. SK하이닉스와 HBM3e 공급 가속 협의. 현대차와 자율주행 AI 인프라 협력.
6/7 (일) — 문화 외교: 두산 베어스 야구 경기 시구. 2차 재계 총수 회동.
6/8 (월) — 연구: 서울대 AI연구원·로보틱스연구소 방문. 학생 직접 면담. Krafton(크래프톤) 미팅 — RTX Spark·Physical AI·Ludo Robotics 파트너십.
멈추자는 선언과 더 빨리 만들라는 주문이 같은 주에 나왔다
Anthropic은 "재귀적 자기개선이 임박했다 — 인류가 개발을 멈출 수 있는 장치가 필요하다"고 선언했다. 같은 주에 젠슨 황은 서울 공급사를 직접 방문해 "더 많이 만들어 달라"고 했다. 중국은 AI 단속을 강화하면서 기술 개발을 멈추지 않았다. 미국 의회는 DNI 지명 논란으로 AI 감시 법안을 또 한번 미뤘다. EU만이 D-56일 카운트다운을 묵묵히 이어가고 있다. 이번 주는 AI 거버넌스의 속도와 AI 개발의 속도 사이의 간격이 가장 선명하게 드러난 주간이었다.
Anthropic이 "RSI 임박 — 국제 감속 합의 필요"를 선언한 날, 젠슨 황은 서울에서 삼겹살을 먹으며 HBM 증산을 요청했다. 이 두 장면이 같은 주에 나왔다는 것은 우연이 아니다. AI 안전을 외치는 기업이 동시에 AI 인프라 확장의 수혜자인 구조 — 이것이 현재 AI 거버넌스의 근본 모순이다.
젠슨 황은 한국 재계 총수들과 삼겹살을 먹었고, Anthropic은 국제 감속 합의를 요청했다. 한국은 미국 AI 인프라의 핵심 공급망이면서 동시에 AI 기본법을 시행 중인 규제 선도국이다. 공급망 파트너와 거버넌스 파트너 — 두 역할을 동시에 수행하는 것이 한국의 전략적 기회이자 딜레마다.