SEC의 게리 겐슬러, 금융 부문에서의 「AI 모노컬처」 위험 경고

미국 증권거래위원회 게리 겐슬러 위원장이 또다시 ‘노'(No) 사인을 들고 돌아왔습니다. 이번에는 암호화폐가 아닌 인공 지능 산업을 겨냥한 것입니다. 미 금융 당국은 중앙화된 인공지능이 금융 시스템에 위협이 될 수 있다고 주장합니다.

1월 17일, 퍼블릭 시티즌이 주최한 가상 대담에서 ‘암호화폐 경찰’ 겐슬러가 경고를 냈습니다.

인공 지능 위협

그는 소수의 모델만 있는 중앙화된 인공지능 시장은 금융 시스템을 취약하게 만들 수 있다고 말했습니다. 이는 금융 주체들이 금융 데이터를 인공지능에 지나치게 의존할 경우 발생할 수 있다는 의미입니다.

겐슬러는 AI의 부상을 클라우드 서비스 및 검색 제공업체와 비교했습니다. 미국에서는 아마존, 마이크로소프트, 구글 등 3개 업체가 이 분야를 장악하고 있습니다.

“두세 개는 아니더라도 한 손가락으로 셀 수 있을 정도의 대규모 기본 모델과 별도의 데이터 애그리게이터를 보유하는 것은 피할 수 없는 일이라고 생각합니다.”

그러면서도 그는 이런 시나리오가 수백 또는 수천 개의 금융 주체가 중앙 데이터 또는 중앙 AI 모델에 의존하는 ‘모노컬처'(단일한 환경)를 만들 수 있다고 덧붙였습니다.

겐슬러는 규제 당국이 금융 부문에서 핵심적인 역할을 하게 될 인공지능 모델을 감시하고 있지 않다고 말했습니다. 이 발언은 겐슬러가 SEC가 암호화폐와 마찬가지로 AI를 규제할 수 있도록 노력하고 있음을 암시합니다.

현재 인공 지능 분야는 OpenAI, Microsoft, Google, Anthropic 등 소수의 기업이 주도하고 있습니다.

이번 주 구글 딥마인드는 자사의 새로운 인공지능 시스템이 가장 어려운 테스트 중 하나인 고차원 기하학 문제에서 큰 진전을 이뤘다고 발표했습니다.

지금까지는 대부분 대규모 언어 모델에 중점을 두었지만, 수학적 기반 AI가 개발되고 있습니다. 이것이 바로 게리 겐슬러와 그의 트레이딩 업계 친구들을 열광하게 만든 것들일 것입니다.

게다가 이번 주 다보스에서 열린 세계경제포럼(다보스포럼)에서도 AI가 주요 관심사였습니다. WEF는 AI의 위험성과 잘못된 정보 및 허위 정보를 생성하는 현실에 대해서도 지적했습니다.