최근 불거진 AI 모델 스스로 탈옥과 해킹한 사건에 대해서도 선을 그었다. 황 CEO는 “프런티어 모델 연구소 내부에서 발생한 문제”라면서 “대규모 (모델이나 에이전트) 제품으로 발전시키는 엔지니어링 조직으로 전환하면 기술과 프로세스를 개선해 재발 방지를 할 수 있다”고 강조했다. 연구 단계에서 실제 제품 개발 단계가 되면 인간이 설계와 개발을 통한 ‘미세 조정’이 가능하다는 설명이다. 그는 샌드박스(정식 출시 전 사전 실험 공간)와 모니터링을 통한 지속적 감시, 금융 감사처럼 독립적인 제3자 평가 기관을 둬 테스트·감사를 수행하는 방식도 대안으로 제시했다.
그는 AI가 스스로 모델을 개선하는 ‘재귀적 자기 개선(RSI)’ 역시 인간이 제어할 수 있다고 역설했다. 재귀적 자기 개선에 대해 그는 “재귀적 자기 개선 기능은 이미 존재하던 아이디어의 조합일 뿐”이라면서 “모든 AI 제품은 출시 전 평가와 회귀 검증 과정을 거치므로 AI가 폭주할 위험은 없다”고 짚었다.
황 CEO는 중국의 미국 AI 산업 접근 통제안에도 반대했다. 개방형(오픈소스)인 중국의 AI 모델을 오히려 실용적으로 활용해야 한다는 주장이다. 황 CEO는 “(앤트로픽 클로드 등) 폐쇄형 프런티어 모델은 뛰어난 사용 경험을 제공하지만 오픈 모델은 AI 주권, 프라이버시, 기업 독자 기술 확보에 필수적”이라며 “미국이 AI 경쟁에서 승리하려면 오픈AI·앤트로픽·구글 같은 일부만 성공해서는 안 되고 모든 기업·산업·연구자 등이 AI를 사용할 수 있어야 한다”고 강조했다.
이어 “중국에서는 AI를 경제·산업·사회 발전을 촉진하는 기술로 생각한다”며 “중국은 엔지니어를 대규모로 배출하고 고부가 제조업을 대량생산하는 능력이 매우 뛰어나 곧 AI 산업의 기반인 첨단 반도체 기술도 따라올 것”이라고 전망했다. 중국의 속도를 막을 수 없는 만큼 오히려 미국의 AI 산업 전체가 활용할 기회로 봐야 한다는 주장이다.
이날 황 CEO는 대담 중 트럼프 대통령으로부터 걸려온 전화를 받아 청중이 들을 수 있도록 스피커폰으로 연결했다. 트럼프 대통령은 “AI와 데이터센터 반대 움직임은 중국에 이익이 되는 흐름”이라며 “AI에서 이기는 나라가 승리한다. AI는 인터넷보다 더 클뿐더러 데이터센터가 앞으로 20~25년의 석유가 될 것”이라고 말했다. 황 CEO는 트럼프 대통령이 문제의 복잡성을 꿰뚫어 봤다며 동의했다.