🛡️ Рэгулятары Вялікабрытаніі спяшаюцца ацаніць рызыкі найноўшай мадэлі антрапічнага штучнага інтэлекту, паведамляе FT ↗
Паведамляецца, што брытанскія фінансавыя рэгулятары хутка працуюць над новай мадэллю Mythos ад Anthropic з-за асцярог, што яна можа выкрыць сур'ёзныя ўразлівасці ў крытычна важных сістэмах. У перамовах удзельнічаюць Банк Англіі, FCA, Міністэрства фінансаў і Нацыянальны цэнтр кібербяспекі — што даволі вялікі склад для папярэдняга прагляду адной мадэлі.
Занепакоенасць выклікае тое, што Mythos незвычайна ўмела знаходзіць уразлівасці ў праграмным забеспячэнні, нягледзячы на тое, што Anthropic сцвярджае, што разгортванне строга абмежаванае і накіравана на абарончую працу па бяспецы. Чакаецца, што банкі, страхавыя кампаніі і біржы атрымаюць інструктаж, таму цяпер гэта больш падобна не на лабараторныя плёткі, а на інфраструктурную палітыку.
🤖 На канферэнцыі HumanX усе казалі пра Клода ↗
Здавалася, што Anthropic задаў тон на HumanX — вось у чым заключалася ўся гісторыя. На дыскусіях, у размовах з пастаўшчыкамі і ў кулуарах Клод пастаянна паказваў сябе як узорны прыклад людзей, найбольш запатрабаваных для бізнесу і праграмных працэсаў.
Кінулася ў вочы адносная цішыня вакол ChatGPT. У артыкуле гаворыцца, што OpenAI усё яшчэ мае маштаб і грошы, але настрой на канферэнцыі схіліўся ў бок Клода як інструмента з больш вострай карпаратыўнай прыцягальнасцю ў дадзены момант — ці так здаецца.
📄 Клод для Word ад Anthropic — чарговы выклік праграмнай імперыі Microsoft ↗
Anthropic выпусціла бэта-версію Claude for Word, якая прасоўваецца далей у паўсядзённае офіснае праграмнае забеспячэнне, замест таго, каб заставацца абмежаваным інструментам распрацоўшчыка. Ён можа адказваць на пытанні аб дакуменце з дапамогай клікабельных спасылак на раздзелы, рэдагаваць вылучаны тэкст без парушэння фарматавання і апрацоўваць адсочваныя змены.
Мэтавая аўдыторыя даволі зразумелая: каманды, якія працуюць з вялікай колькасцю дакументаў, асабліва юрыдычныя і фінансавыя. Гэта робіць гэта не проста дапаўненнем да новай функцыі — гэта прамы штуршок на хатнюю тэрыторыю Microsoft і даволі нахабны крок.
🌐 Боты са штучным інтэлектам здабываюць інфармацыю ў інтэрнэце, і Anthropic лідзіруе ў гэтым плане ↗
Новы погляд на дадзеныя Cloudflare паказвае, што кампаніі, якія працуюць са штучным інтэлектам, здабываюць з Інтэрнэту значна больш, чым вяртаюць. Ключавой статыстыкай з'яўляецца суадносіны сканавання і спасылак — як часта боты скануюць старонкі ў параўнанні з тым, як часта яны адпраўляюць карыстальнікаў назад — і Anthropic выступае асабліва дрэнна.
Паведамляецца, што суадносіны Anthropic складаюць 8800 да 1, прычым OpenAI таксама высокі, але значна ніжэйшы. Больш шырокі сэнс кладзецца на галаву: старая вэб-дамова заключалася ў тым, каб спачатку сканаваць нас, а потым адпраўляць нам трафік. Рухавікі адказаў штучнага інтэлекту захоўваюць першую частку, а другую пакідаюць як след.
⚔️ Агляд эскалацыі глабальнай гонкі ўзбраенняў з выкарыстаннем штучнага інтэлекту, калі ЗША, Кітай, Расія і іншыя краіны спяшаюцца ствараць аўтаномную зброю і абарончыя сістэмы на базе штучнага інтэлекту ↗
Апошнія матэрыялы пра ваенна-тэхнічную дзейнасць прысвечаны не столькі яркім дэманстрацыям, колькі стратэгічнаму паскарэнню. Буйныя дзяржавы адначасова прасоўваюць аўтаномныя і штучна падтрыманыя абарончыя сістэмы, што надае ўсёй гэтай справе ўражанне эстафеты, дзе ўсе схапілі эстафету і забыліся пра тармазы.
Гэта выклікае звычайныя пытанні — кантроль, эскалацыя, падсправаздачнасць — але цяпер з большай тэрміновасцю. Пасля таго, як штучны інтэлект будзе больш глыбока ўбудаваны ў цэлеўказанне, назіранне і прыняцце рашэнняў на полі бою, слова «эксперыментальны» пачне гучаць як папяровая этыкетка на чымсьці ўжо рухаецца.
🏭 Японскі SoftBank запускае падраздзяленне па распрацоўцы ўласнага штучнага інтэлекту ↗
SoftBank аб'яднаўся з Sony, Honda і іншымі японскімі кампаніямі, каб стварыць новае прадпрыемства па развіцці штучнага інтэлекту, арыентаванае на «фізічны штучны інтэлект» — мадэлі, прызначаныя для кіравання машынамі і робатамі, а не толькі для адказу ў тэкставых паведамленнях. Гэта адрозніваецца ад звычайнага конкурсу чат-ботаў і, магчыма, больш цікавы варыянт.
Амбіцыі велізарныя, і, як паведамляецца, намаганні накіраваны на стварэнне вельмі маштабнай мадэлі фундамента і доўгі шлях да прамысловага выкарыстання. Гэта часткова нацыянальна-тэхналагічная стратэгія, часткова палёт на Месяц, часткова механічнае анімэ з пасяджэннямі савета дырэктараў.
Часта задаваныя пытанні
Чаму брытанскія рэгулятары ўважліва сочаць за мадэллю Mythos ад Anthropic?
Паводле паведамленняў, улады Вялікабрытаніі разглядаюць Mythos як патэнцыйную рызыку, бо ён можа быць незвычайна спрытным у пошуку ўразлівасцяў у праграмным забеспячэнні. Паведамляецца, што ў перамовах удзельнічаюць Банк Англіі, FCA, Казначэйства і Нацыянальны цэнтр кібербяспекі. Такое спалучэнне інстытутаў сведчыць аб занепакоенасці з нагоды магчымага ўплыву на крытычна важныя сістэмы, асабліва ў фінансавай сферы і інфраструктуры.
Чым мадэль Anthropic Mythos адрозніваецца ад звычайнага рэлізу штучнага інтэлекту?
Занепакоенасць выклікана не толькі тым, што гэта новая мадэль, але і тым, што яна, відаць, асабліва здольная ў абарончай працы па бяспецы, звязанай з выяўленнем уразлівасцей праграмнага забеспячэння. Паведамляецца, што Anthropic заяўляе, што доступ да яго строга абмежаваны, што сведчыць аб тым, што разгортванне праводзіцца больш асцярожна, чым шырокі запуск для спажыўцоў. На практыцы гэта больш падобна на кантраляваную функцыю бяспекі, чым на стандартнае абнаўленне чат-бота.
Чаму Клод прыцягнуў столькі ўвагі на канферэнцыі HumanX?
Згодна з артыкулам, Клод неаднаразова згадваўся на панэльных дыскусіях, у размовах з пастаўшчыкамі і нефармальных дыскусіях як моцны варыянт для бізнесу і праграмавання. У артыкуле Anthropic паказана як прыкметны імпульс сярод карпаратыўных карыстальнікаў на гэтым мерапрыемстве. Таксама мяркуецца, што настрой вакол HumanX на ChatGPT быў больш стрыманым, нягледзячы на тое, што OpenAI усё яшчэ мае вялікі маштаб і рэсурсы.
Што насамрэч робіць Claude for Word для каманд, якія працуюць з вялікай колькасцю дакументаў?
Бэта-версія, апісаная тут, прызначана для працы ўнутры дакументаў, а не проста для стварэння асобнага тэксту. Яна можа адказваць на пытанні па дакуменце са спасылкамі на раздзелы, рэдагаваць выбраныя ўрыўкі без парушэння фарматавання і апрацоўваць адсочваныя змены. Гэта робіць яе асабліва актуальнай для юрыдычных, фінансавых і іншых каманд, якім патрэбны ўважлівы прагляд, а не чарнавы варыянт.
Што кажа суадносіны сканавання да спасылак пра ботаў штучнага інтэлекту і вэб?
У артыкуле гэта суадносіны прадстаўлена як спосаб параўнання таго, колькі вэб-сайтаў кампаніі, якія выкарыстоўваюць штучны інтэлект, скануюць у параўнанні з тым, як часта яны адпраўляюць карыстальнікаў назад. У гэтым кантэксце вельмі высокае суадносіны сведчыць аб здабычы з невялікім зваротным трафікам. Паводле гэтага паказчыка, Anthropic апісваецца як асабліва дрэнна працуе, што завастрае больш шырокую крытыку таго, што пошукавыя сістэмы адказаў на аснове штучнага інтэлекту могуць аслабіць старую вэб-біржу індэксавання ў абмен на рэфералы.
Чаму людзі звязваюць прагрэс штучнага інтэлекту як з аўтаномнай зброяй, так і з фізічным штучным інтэлектам?
У артыкуле згадваюцца дзве ўзаемазвязаныя тэндэнцыі: урады паскараюць распрацоўку абарончых сістэм на аснове штучнага інтэлекту, а такія кампаніі, як SoftBank, падтрымліваюць мадэлі, прызначаныя для кіравання машынамі і робатамі. Разам яны паказваюць, што штучны інтэлект выходзіць за рамкі чату і пошуку і ўваходзіць у фізічныя сістэмы, якія могуць адчуваць, прымаць рашэнні і дзейнічаць. Гэта падымае больш шырокія пытанні аб кантролі, падсправаздачнасці, прамысловым выкарыстанні і тым, як хутка гэтыя сістэмы пераходзяць з эксперыментальнага стану ў аперацыйны.