일부 매우 강력한 인공 일반 지능 시스템은 결국 금지되어야 할 수도 있다고 정부의 AI 위원회 구성원이 말했습니다.
Faculty AI의 사장이기도 한 Marc Warner는 AGI에 더 많은 내장 안전 기술뿐만 아니라 강력한 투명성과 감사 요구 사항이 필요하다고 말했습니다.
그리고 향후 6개월에서 1년은 AGI에 대한 “현명한 결정”을 요구할 것입니다.
그의 발언은 EU와 미국이 공동으로 AI에 대한 자발적인 실천 강령이 곧 필요하다고 말하는 데 따른 것입니다.
정치적 연결지도자에게 조언을 제공하는 독립적인 전문가 위원회입니다.
Faculty AI는 고객이 ChatGPT 및 기타 제품을 시스템에 안전하게 구현하도록 돕는 OpenAI의 유일한 기술 파트너라고 말합니다.
이 회사의 도구는 팬데믹 기간 동안 NHS 서비스에 대한 수요를 예측하는 데 도움이 되었지만 정치적 연결이 정밀 조사를 받았습니다.
워너 씨는 기술이 인류의 멸종으로 이어질 수 있다고 경고하는 AI 안전 센터에 자신의 이름을 추가했습니다. 그리고 Faculty AI는 목요일 Downing Street에서 Chloe Smith 기술 장관과 함께 안전하고 책임 있는 AI를 보장하는 데 필요한 위험, 기회 및 규칙에 대해 대표자들이 논의한 기술 회사 중 하나였습니다.
AI는 일반적으로 인간 지능이 필요한 작업을 수행하는 컴퓨터의 능력을 설명합니다.
‘다른 규칙’
Warner는 텍스트를 번역하거나 의료 이미지에서 암을 검색하는 것과 같은 특정 작업에 사용되는 시스템인 “Narrow AI”가 기존 기술처럼 규제될 수 있다고 말했습니다.
그러나 근본적으로 새로운 기술인 AGI 시스템은 훨씬 더 걱정이 많았고 다른 규칙이 필요했습니다.
워너는 BBC 뉴스와의 인터뷰에서 “매우 광범위한 작업 영역, 즉 모든 작업에서 인간만큼 똑똑하거나 더 똑똑해지는 것을 목표로 하는 알고리즘”이라고 말했다.
인류는 주로 지능 때문에 이 행성에서 가장 중요한 위치에 있다고 그는 말했습니다.
‘강한 한계’
워너는 “만약 우리가 우리만큼 똑똑하거나 더 똑똑한 물체를 만든다면 그것이 왜 안전해야 하는지에 대한 과학적 근거를 제시할 수 있는 사람은 세상에 아무도 없다”고 말했다.
“확실히 끔찍하다는 뜻은 아닙니다. 하지만 위험이 있다는 뜻이고 조심스럽게 접근해야 한다는 뜻입니다.
“최소한 이러한 것들에 임의로 투입할 수 있는 컴퓨팅[처리 능력]의 양에는 일종의 강력한 제한이 있어야 합니다.
“어느 시점에서 우리는 충분하다고 결정할 수 있고 특정 복잡성이나 특정 양의 컴퓨팅을 초과하는 알고리즘을 금지할 것이라는 강력한 주장이 있습니다.
“그러나 분명히 그것은 기술 회사가 아니라 정부가 내려야 할 결정입니다.”
‘경쟁 우위’
일부에서는 AGI에 대한 우려가 기존 기술의 문제(예: AI 채용 또는 안면 인식 도구의 편향)에서 벗어나고 있다고 말합니다.
그러나 워너 씨는 이것이 “‘자동차나 비행기가 안전하기를 원하십니까?'”라고 말하는 것과 같다고 말했습니다. 둘 다 원합니다.”
다른 사람들은 너무 많은 규제가 영국을 투자자들에게 덜 매력적으로 만들고 혁신을 억누를 수 있다고 말합니다.
그러나 워너 씨는 영국이 안전을 장려하는 데 경쟁 우위를 찾을 수 있다고 말했다.
“나의 장기적인 내기는 실제로 기술에서 가치를 얻으려면 안전이 필요하다는 것입니다. 같은 방식으로 비행기에서 가치를 얻으려면 엔진이 작동해야 합니다.”라고 그는 말했습니다.
너무 늦었어’
영국의 최근 AI 규제 백서는 전용 워치독을 설치하지 않았다는 비판을 받았다.
그러나 Rishi Sunak 총리는 “가드레일”의 필요성을 설명하고 영국이 “리더십 역할”을 할 수 있다고 말했습니다.
수요일에 Antony Blinken 미국 국무장관과 Margrethe Vestager 유럽연합 집행위원은 자발적 규칙이 시급히 필요하다고 말했습니다.
AI를 규제하는 첫 번째 법안 중 하나가 될 EU 인공 지능법은 여전히 입법 과정을 거치고 있습니다.
그리고 베스타거 씨는 다양한 법안이 발효되려면 2~3년이 걸릴 것이라고 말했습니다. “믿을 수 없는 기술적 가속화에 대해 이야기하고 있습니다.”
그러나 업계와 다른 사람들은 몇 주 안에 자발적인 행동 강령 초안에 기여하도록 초대될 것입니다.
제4차 미국-EU 무역 및 기술 협의회 회의 후 Blinken은 “광범위한 국가… 모두 같은 생각을 가진 국가”에 “개방된” 자발적인 행동 강령을 수립하는 것이 중요하다고 말했습니다.
“인공 지능은 차세대 성장 분야이며 우리는 이것이 시작일 뿐이라고 기대합니다.”라고 Mr Lode는 말했습니다. “우리는 성장이 있을 것이라는 것을 알고 있지만 가치 평가는 정당화하기 어려울 수 있습니다.”
기술 부스터로 알려진 투자자인 아크 인베스트(Ark Invest)의 CEO인 캐시 우드(Cathie Wood)는 지난 1월 엔비디아 지분을 매각해 이후 얻은 이익을 놓쳤다.
그녀는 최근 회사의 주식이 “곡선보다 앞서 가격이 책정되었다”고 트윗했습니다. 그녀는 시장이 회사가 “유일한 AI 플레이”라고 생각하는 실수를 저질렀다고 말했습니다.
과거에 투자자들은 과거의 인기 종목에 주저하지 않았습니다.
2021년에 1조 달러 클럽에 합류한 페이스북 소유자 메타는 불과 몇 달 후 주식 가치의 약 3/4을 잃었기 때문에 퇴출되었습니다. 오늘날 가치는 약 6700억 달러입니다.
통신 대기업인 Cisco는 1990년대 후반 닷컴 기술 거품이 일던 기간 동안 1조 달러 규모의 클럽 회원으로 여겨졌습니다. 그러나 그 거품은 터졌고 회사는 오늘날 약 2000억 달러의 가치로 평가됩니다.