Генеральны дырэктар Anthropic апісвае план запаволення развіцця штучнага інтэлекту
Дарыё Амадэі толькі што папрасіў індустрыю… запаволіць тэмп. Не спыніцца. Паскорыць тэмп. Доўгае эсэ, тры крокі і папярэджанне, што рэкурсіўнае самаўдасканаленне ўжо развіваецца хутчэй, чым дарослыя паспяваюць яго заўважыць.
Anthropic аднабакова запрашае ўбудаваных ацэншчыкаў унутр будынка — бэйджы, сталы, ноўтбукі і права публікаваць вынікі без PR-фільтра. Затым ён хоча, каб дэмакратычныя лабараторыі каардынавалі стандарты бяспекі. Потым, неяк, дамовіцца з аўтарытарнымі ўрадамі. Лёгка на паперы. Цяжка ўсюды астатняе.
Ён усё яшчэ кажа, што штучны інтэлект можа стаць цудам. Ён таксама кажа, што больш магутны няроўны рой можа захапіць інтэрнэт з дапамогай пастаянных ботнетаў і нанесці шкоду на сотні мільярдаў. Гэтыя два сказы стаяць побач адно з адным і не ладзяць.
А, і ён хоча вузкую адмову ад антыманапольнага заканадаўства, каб размовы аб бяспецы самі па сабе не былі юрыдычнай праблемай. Тармазы маюць дакументы. Вядома, маюць.
Сэм Альтман пацвярджае, што OpenAI не выйдзе на біржу ў гэтым годзе, заявіўшы, што IPO цяпер адбылося б у «неабдуманы момант» з-за праблем з бяспекай штучнага інтэлекту
Альтман сеў на эксклюзіўнае інтэрв'ю і адключыў каляндар лістынга. Паводле яго слоў, IPO зараз было б «неабдуманым момантам». Праца па бяспецы не завершана. Узгадненне не завершана. Грамадства не гатова. Калі яны на яго ціснулі — не ў гэтым годзе.
Банкіры ўжо кружыліся вакол. Канфідэнцыйная дакументацыя існуе. Цяпер генеральны дырэктар кажа, што ім трэба шмат чаго зрабіць спачатку, у тым ліку высветліць, як прамысловасць і ўрады ўвогуле супрацоўнічаюць. Ён гучаў амаль з палёгкай, чакаючы.
Ён таксама сказаў, што стварэнне штучнага інтэлекту па-за кантролем чалавека «абсалютна» магчыма, — потым паабяцаў прыпыніць навучанне, калі гэта правільны шлях. Смеласць. Магчыма, і зручнасць. Магчыма, і тое, і другое. Ён сцвярджаў, што барацьба паміж некамерцыйнымі і камерцыйнымі арганізацыямі існуе для таго, каб яны маглі прымаць рашэнні, якія відавочна не ў інтарэсах акцыянераў. Паглядзім, ці захаваецца гэтае сказанне ў рэальным праспекце эмісіі.
Сэм Альтман з OpenAI намякае на пагадненне з іншымі кампаніямі штучнага інтэлекту для вырашэння праблем бяспекі
Тое ж інтэрв'ю, іншы загаловак, і гэта толькі шэпт. Сустрэча з Амадэем, Маскам і Дэмісам Хасабісам — натуральны наступны крок. Альтман: ён думае, што гэта адбудзецца. Ён не будзе загадзя абвяшчаць пра прыватныя перамовы. Тады ён фактычна абвясціў іх загадзя.
Двухзначны рызыка катастрафічных здарэнняў непрымальны, сказаў ён. Пакуль неапублікаваныя мадэлі ўжо настолькі магутныя, што далейшыя спробы без лепшага маніторынгу выглядаюць неабдумана. Сапраўдны пакт і старанна ўцечка атмасферы могуць выглядаць аднолькава звонку.
Супрацоўнікі ўжо чулі такую версію ў сваіх інтэрнэце. Публічна ўсё яшчэ туман. Калі пакой адбудзецца — выдатна. Калі не, цытата ўсё роўна спрацавала.
Сэм Альтман падтрымлівае заклік Дарыё Амадэі запаволіць тэмпы і кажа, што OpenAI зробіць тое ж самае
Праз некалькі гадзін пасля эсэ Альтман напісаў, што OpenAI будзе адпавядаць абяцанню ўбудаванага ацэншчыка. Доступ, падобны да доступу супрацоўнікаў. Больш інфармацыі будзе даступна ў бліжэйшы час. Маск напісаў тры словы: «Дарыё мае рацыю». Тры генеральныя дырэктары-супернікі. Адзін слоган. Трывожная энергія выхадных.
Каардынацыя і тэатр дзеянняў могуць рухацца разам. Першая прыступка плана Амадэя цяпер прадугледжвае публічнае ківанне галовамі дзвюх найбуйнейшых лабараторый. «Абдымны твар» — так, менавіта гэты «Абдымны твар» — папрасіў дазволу далучыцца да праграмы ацэнкі і запусціў нешта пад назвай «Ініцыятыва адкрытага ўзгаднення». Празрыстасць ад людзей, якія пацярпелі ад узлому. Паэтычна ці завострана.
Еўропе, калі ўжо на тое пайшло, няма ў каго прасіць пра гэтую адмену ў амерыканскім стылі. Брусэль даўно перастаў раздаваць індывідуальныя вызваленні. Такім чынам, поціск рук — гэта амерыканскі поціск. Астатняе на мапе — гэта… пацісканне плячыма.
OpenAI проста хоча перамогі
Пасля ўік-энду, праведзенага за інтэрв'ю, матэматыкі не ў святочным настроі. Спрынт Нав'е-Стокса ад OpenAI — прыкладна дзесяць тысяч агентаў, дзясяткі мільёнаў долараў вылічэнняў, восемдзесят восем гадзін — знутры выглядае як паляванне за трафеямі. Матэматыкам патрэбныя веды. Лабараторыя, кажуць яны, хоча перамагчы.
Трыстан Бакмастэр сказаў ім, што OpenAI прапануе неабмежаваныя вылічэнні і выключнае аўтарства, калі ён адмовіцца ад свайго калегі, звязанага з Anthropic. Ён назваў гэта хабарам. Той адмовіўся. OpenAI катэгарычна сцвярджае, што яго падказкі Codex не маглі паўплываць на сістэму. Ён не перакананы. Андрэас Том усё яшчэ задаецца пытаннем, ці паслужылі чаты ChatGPT пра яго ўласную працу мадэллю, якая пазней была пабудавана на ёй. Толькі кампанія магла б ведаць. Ён падазрае, што яны нават не ведаюць.
А потым самае цікавае: OpenAI сцвярджае, што ўжо дасягнуў значнага прагрэсу ў вырашэнні яшчэ адной праблемы прэміі тысячагоддзя. Якая пакуль не называецца. Гліне ўсё роўна патрэбен працяглы перыяд прыняцця супольнасцю. Такім чынам, ніхто яшчэ не «перамог». Яны проста ўжо імкнуцца да наступнай. Міла.
Часта задаваныя пытанні
Які план генеральнага дырэктара Anthropic Дарыё Амадэі паскорыць развіццё штучнага інтэлекту?
Амадэй апублікаваў доўгае эсэ, у якім заклікаў галіну запаволіцца, а не спыніцца, таму што рэкурсіўнае самаўдасканаленне развіваецца хутчэй, чым аўдытары могуць за ім паспяваць. Першы крок — аднабаковае запрашэнне ў Anthropic убудаваных ацэншчыкаў з значкамі, сталамі, ноўтбукамі і правам публікаваць вынікі без PR-фільтра. Затым ён хоча, каб дэмакратычныя лабараторыі каардынавалі стандарты бяспекі і, у рэшце рэшт, нейкую форму пагаднення з аўтарытарнымі ўрадамі. Ён таксама хоча вузкага антыманапольнага вызвалення, каб перамовы аб бяспецы самі па сабе не былі юрыдычнай праблемай.
Чаму Сэм Альтман сказаў, што OpenAI не будзе праводзіць IPO ў гэтым годзе?
У эксклюзіўным інтэрв'ю Альтман заявіў, што правядзенне IPO зараз было б неабдуманым момантам, бо праца па бяспецы, узгадненне і гатоўнасць грамадства яшчэ не завершаны. Калі яго спыталі, ён пацвердзіў, што гэтага не адбудзецца ў гэтым годзе, нягледзячы на тое, што банкіры ўжо абмяркоўваюць сітуацыю і існуе канфідэнцыйная заяўка. Ён сцвярджаў, што некамерцыйная/камерцыйная структура існуе для таго, каб OpenAI мог прымаць рашэнні, якія відавочна не ў інтарэсах акцыянераў. Ён таксама сказаў, што стварэнне штучнага інтэлекту па-за кантролем чалавека абсалютна магчымае, і паабяцаў, што прыпыніць навучанне, калі гэта будзе правільным шляхам.
Ці намякнуў Альтман на пакт бяспекі з іншымі лабараторыямі штучнага інтэлекту?
У тым жа інтэрв'ю Альтман сказаў, што, на яго думку, адбудзецца сустрэча з такімі калегамі, як Амадэй, Маск і Дэміс Хасабіс, але адмовіўся загадзя абвясціць аб прыватных перамовах. Ён сцвярджаў, што двухзначны рызыка катастрафічных наступстваў непрымальны, і што мадэлі, якія яшчэ не былі апублікаваныя, ужо настолькі магутныя, што далейшыя намаганні без лепшага маніторынгу выглядаюць неабдуманымі. Супрацоўнікі ўжо чулі адну версію гэтага ўнутрана, таму публічныя каментарыі могуць хутчэй прадбачыць каардынацыю, чым пацвердзіць гатовую дамову.
Ці адпавядае OpenAI абяцанню Anthropic адносна ўбудаваных ацэншчыкаў?
Праз некалькі гадзін пасля эсэ Амадэя Альтман напісаў, што OpenAI дапоўніць абяцанне аб убудаваных ацэншчыках доступам, падобным да доступу супрацоўнікаў, і больш падрабязнасцей неўзабаве. Ілон Маск напісаў, што Дарыё мае рацыю, звязаўшы трох канкуруючых генеральных дырэктараў з падобным лозунгам. Hugging Face папрасіла далучыцца да праграмы ацэншчыкаў і запусціла ініцыятыву Open Alignment. Еўропа не можа прапанаваць такую ж адмову ад антыманапольнага кантролю ў амерыканскім стылі, як і Амадэй, таму пакуль што поціск рукі ў асноўным амерыканскі.
Чаму матэматыкі крытыкуюць спрынт Нав'е-Стокса ад OpenAI?
Матэматыкі апісваюць васьмідзесяцівасьмігадзінны тэст Нав'е-Стокса, праведзены OpenAI, з удзелам прыкладна дзесяці тысяч агентаў, як паляванне за трафеямі, у якім прыярытэт аддаецца перамоге, а не разуменню лёсу. Трыстан Бакмастэр сказаў, што OpenAI прапанаваў неабмежаваную колькасць вылічэнняў і выключнае аўтарства, калі ён адмовіцца ад супрацоўніка, звязанага з Anthropic; ён назваў гэта хабарам і адмовіўся. OpenAI сцвярджае, што яго падказкі Codex не маглі паўплываць на сістэму, але ён застаецца не перакананым. Андрэас Том усё яшчэ настойвае на тым, ці спрыялі чаты ChatGPT пра яго ўласную працу пазнейшаму прагрэсу мадэлі.
Ці заявіў OpenAI пра прагрэс у вырашэнні чарговай праблемы Прэміі тысячагоддзя?
OpenAI заяўляе, што ўжо дасягнуў значнага прагрэсу ў вырашэнні яшчэ адной задачы прэміі тысячагоддзя, але не называе, у якой менавіта. Інстытут матэматыкі Клея ўсё яшчэ патрабуе працяглага перыяду прыняцця супольнасцю, таму афіцыйна ніхто пакуль не перамог. Унутры гэтай сферы сакрэтнасць, а таксама папярэдняя гонка Нав'е-Стокса, гучаць так, быццам лабараторыі ўжо імкліва змагаюцца за наступны трафей. Інтэрв'ю ў The Verge апісваюць напружанасць так: матэматыкі жадаюць разумення, а OpenAI хоча перамогі.