“고급 AI의 안전성과 보안을 강화하기 위한 실행 계획”이라는 제목의 완성된 문서에서는 제정될 경우 AI 산업을 근본적으로 혼란에 빠뜨릴 전면적이고 전례 없는 일련의 정책 조치를 권장합니다. 보고서는 의회가 특정 수준 이상의 컴퓨팅 성능을 사용하여 AI 모델을 훈련하는 것을 불법으로 규정해야 한다고 권고합니다. 보고서는 임계값을 새로운 연방 AI 기관이 설정해야 한다고 권고하지만, 보고서는 예를 들어 이 기관이 OpenAI의 GPT와 같은 현재 최첨단 모델을 훈련하는 데 사용되는 컴퓨팅 성능 수준 바로 위에 이를 설정할 수 있다고 제안합니다. -4 및 Google의 Gemini. 보고서는 새로운 AI 기관이 업계 '최전선'에 있는 AI 기업에게 새로운 모델을 훈련하고 특정 기준치 이상으로 배포할 수 있는 정부 허가를 받도록 요구해야 한다고 덧붙였습니다. 보고서는 또한 당국은 예를 들어 오픈 소스 라이선스에 따라 강력한 AI 모델의 "가중치" 또는 내부 작동 방식을 공개하는 것을 불법화하는 것을 "긴급히" 고려해야 하며 위반 시 징역형을 받을 수 있다고 밝혔습니다. 그리고 정부는 AI 칩의 제조 및 수출에 대한 통제를 더욱 강화하고, 첨단 AI를 보다 안전하게 만들기 위한 "정렬" 연구에 연방 자금을 집중해야 한다고 권고합니다.

위 보고서는 미 국무부에서 부탁해서 OAI 앤트로픽 구글 메타 직원 200여명 만나서 얘기한거로 종합해서 미국 정부에 제출한건데,

그 내용이 기가 막히다.

AI가 인류 멸종급 재앙을 불러올 수 있기때문에 이렇게 하자고함.

1. GPT-4, Gemini 급 이상 가는 컴퓨팅이 필요한 AI모델 금지. 권고사항이 아니라 불법으로 정함.

2. 강력한 AI모델 가중치나 내부 작동방식 오픈소스 금지를 긴급히 고려해야함. 어길시 처벌하자.

3. 정렬 연구에 자금 집중해야한다.

보고서는 특정 임계값을 초과하는 고급 AI 시스템 교육을 금지하면 "모든 AI 개발자 간의 경쟁 역학을 완화"하고 칩 산업이 더 빠른 하드웨어를 제조하는 속도를 줄이는 데 기여할 수 있다고 명시합니다. 시간이 지남에 따라 연방 AI 기관은 최첨단 모델의 안전성에 대한 증거가 충분히 입증되면 임계값을 높이고 더 발전된 AI 시스템의 교육을 허용할 수 있다고 보고서는 제안합니다. 마찬가지로, 기존 모델에서 위험한 기능이 발견되면 정부는 안전 기준을 낮출 수 있다고 말합니다.

특정 임계값(현재는 GPT-4 수준) 이상 모델 학습 금지시키고 그동안 안정성이 입증되어야만 다음 임계값으로 높이자고함.

설마 미국이 이런 선택을 하지 않길 바랄뿐이다.