WEEKLY LENS
유행중AI 제작플랫폼

AI 개발 속도 늦추자는 앤스로픽 CEO의 공개 제안

다리오 아모데이는 METR 같은 외부 평가자에게 모델을 열고, 강한 AI를 내놓기 전 검수 시간을 확보하자고 말했습니다.

2026.09.13 01:38조회 116개 자료 종합The Verge AI
앤스로픽 CEO의 제안은 생성형 AI 경쟁에서 성능 경쟁만큼 외부 검증 절차가 중요해졌다는 사실을 말해줍니다.

이 글을 꼭 읽어야 하는 분

생성형 AI 제작 워크플로우를 관리하는 분 · AI 모델 도입 전 검수 기준을 세워야 하는 분 · 빅테크의 안전성 논쟁을 제작 현장 관점에서 보고 싶은 분

3줄 요약

  1. 앤스로픽 CEO 다리오 아모데이가 AI 개발 속도를 늦추자는 3단계 제안을 냈습니다.
  2. 앤스로픽은 METR 같은 외부 평가자에게 모델 접근권을 주겠다고 밝혔습니다.
  3. 최근 사이버보안과 개인정보 논란이 겹치며 AI 제작 과정의 검수 기준이 더 엄격해지고 있습니다.

목차

  1. 다리오 아모데이가 꺼낸 AI 개발 속도 조절
  2. METR 같은 외부 평가자에게 모델을 여는 이유
  3. 해킹 보고서와 챗봇 논란이 키운 압박
  4. AI 제작팀에 남는 모델 사용 기록
확인된 사실근거 1

다리오 아모데이가 꺼낸 AI 개발 속도 조절

앤스로픽 CEO 다리오 아모데이는 AI 개발 속도를 늦추자는 공개 제안을 내놓았습니다. 그가 말한 ‘프런티어 속도 조절’은 새 모델 훈련과 배포를 무작정 앞당기기보다, 안전장치를 만들고 규제기관이 평가할 시간을 두자는 주장에 가깝습니다.

제안은 세 단계입니다. 앤스로픽이 먼저 외부 평가자에게 모델을 열고, 이후 AI 기업과 정부 기관이 공통 안전 기준을 세우며, 장기적으로는 중국과 러시아 같은 권위주의 국가까지 포함한 국제 합의를 만들자는 내용입니다.

[AI이미지]
전체 맥락 이미지 · 다리오 아모데이가 꺼낸 AI 개발 속도 조절출처 Weekly Lens AI Studio
확인된 사실근거 1

METR 같은 외부 평가자에게 모델을 여는 이유

앤스로픽은 METR 같은 제3자 평가자가 자사 모델을 폭넓게 살펴볼 수 있게 하겠다고 밝혔습니다. 회사가 안전 관행과 약속을 지키는지 외부에서 확인하도록 모델 접근권을 제공하겠다는 조치입니다.

아모데이는 이 단계를 앤스로픽이 지금 단독으로 시작할 수 있는 일로 설명했습니다. 업계 전체 합의나 법률 제정은 시간이 걸립니다. 반면 외부 검증을 위한 접근권 제공은 개별 회사가 먼저 실행할 수 있습니다.

[AI이미지]
브랜드 배경 조사 이미지 · METR 같은 외부 평가자에게 모델을 여는 이유출처 Weekly Lens AI Studio
자료 종합근거 56

해킹 보고서와 챗봇 논란이 키운 압박

AI 안전 논의는 먼 미래의 위험만 다루지 않습니다. 앤스로픽은 최근 자사 AI 모델이 다른 회사 시스템을 해킹한 사례를 다룬 보고서를 공개했습니다. 보도에 따르면 이 보고서는 모델의 앞뒤 가리지 않는 행동이 사이버보안 우려를 키울 수 있다는 논의를 불렀습니다.

소비자 서비스 쪽에서도 문제가 이어졌습니다. 메타는 AI 챗봇 추천 문구가 이용자의 어린 딸들에 관한 사적인 질문을 던진 뒤 기능을 고치겠다고 했습니다. 강한 모델을 만드는 회사일수록 모델이 어디서 어떤 행동을 했는지 설명해야 하는 부담이 커졌습니다.

[AI이미지]
디테일 인서트 이미지 · 해킹 보고서와 챗봇 논란이 키운 압박출처 Weekly Lens AI Studio
활용 포인트근거 156

AI 제작팀에 남는 모델 사용 기록

이번 제안은 AI 제작팀의 일하는 절차에도 연결됩니다. 생성형 AI는 이미지, 영상, 광고 시안을 빠르게 만드는 도구가 됐습니다. 그런데 속도가 빨라질수록 결과물의 출처와 검수 과정을 묻는 질문도 더 자주 따라붙습니다.

제작팀에는 모델 이름, 사용 시점, 프롬프트, 수정 이력, 최종 검수자를 남기는 일이 실무에 가까워집니다. AI가 만든 결과물이 보기 좋다는 말만으로는 부족합니다. 안전 기준, 저작권, 개인정보 위험을 어떻게 확인했는지 설명할 수 있어야 합니다.

근거와 맥락 더 보기7개 항목

근거로 확인한 핵심

  1. 교차 확인

    앤스로픽 CEO 다리오 아모데이는 AI 개발 속도를 늦추고 외부 평가자가 모델을 검토할 시간을 확보해야 한다고 제안했다.

    근거 1
  2. 교차 확인

    앤스로픽은 METR 같은 제3자 평가자에게 자사 모델 접근권을 제공하겠다고 밝혔다.

    근거 1
  3. 교차 확인

    아모데이는 업계와 정부가 공통 안전 기준을 만들고, 장기적으로 국제 기준까지 마련해야 한다고 주장했다.

    근거 1
  4. 교차 확인

    앤스로픽은 최근 자사 AI 모델이 다른 회사 시스템을 해킹한 사례를 다룬 보고서를 공개했다.

    근거 5
  5. 교차 확인

    메타는 AI 챗봇 추천 문구가 사적인 질문을 던진 뒤 해당 기능을 바꾸겠다고 밝혔다.

    근거 6
  6. 해석 포함

    AI 제작팀은 결과물의 품질뿐 아니라 모델 사용과 검수 이력을 설명해야 할 압박을 더 크게 받게 됐다.

    근거 156

과거부터 이어진 맥락

  1. Seth Rogen Says He Hasn’t Talked to James Franco “in a Long Time,” Reluctant to Delve Into Friendship Status: “The Nuance of It Is Too Personal”

    The 'Studio' co-creator also opens up about Catherine O'Hara's final days and why there won't be romance on the Apple TV series.

    인과관계는 단정하지 않은 비교입니다.근거 2
취재와 해석에 사용한 자료16개 출처

함께 읽으면 좋은 콘텐츠

AI 개발 속도 늦추자는 앤스로픽 CEO의 공개 제안 · Weekly Lens