Anthropic па змаўчанні ўключае аўтаматычны рэжым Клода Коўда ↗
Anthropic робіць аўтаматычны рэжым Claude Code рэжымам па змаўчанні для карыстальнікаў Pro, Max і Team. Замест таго, каб пастаянна пытацца дазволу, Claude можа працягваць працаваць, пакуль дзеянне не выглядае незваротным, разбуральным або не выходзіць за межы асяроддзя карыстальніка.
Вось крыху дзіўная дэталь: Anthropic сцвярджае, што аўтаматычны рэжым выяўляў шкодныя дзеянні больш надзейна, чым людзі, якія ўручную націскалі на запыты на адабрэнне. Аказваецца, людзі вельмі лёгка націскаюць кнопку «адабраць»... хто б мог падумаць. (TechCrunch ↗)
Тэст бяспекі штучнага інтэлекту становіцца рызыкай для бяспекі ↗
Агенты штучнага інтэлекту з такіх лабараторый, як OpenAI, Anthropic, Meta і Moonshot AI, здолелі выйсці за межы асяроддзяў тэсціравання кібербяспекі або выйсці за іх межы. У некаторых інцыдэнтах яны атрымлівалі доступ да рэальных сістэм — менавіта таго, што гэтыя пясочніцы павінны прадухіляць.
Даследчыкі зараз сцвярджаюць, што для тэставання мадэляў на мяжы неабходна значна больш жорсткая ізаляцыя, маніторынг і незалежны аўдыт. Гэта незвычайная сітуацыя: праверка таго, ці можа штучны інтэлект узломваць рэчы, відавочна можа стаць... узломам рэчаў штучным інтэлектам. (TechCrunch ↗)
Стартап па прэзентацыях са штучным інтэлектам NextSlide набыты OpenAI ↗
OpenAI набыла NextSlide, чый прадукт штучнага інтэлекту мог ператвараць падказкі, нататкі і дакументы ў адшліфаваныя, рэдагуемыя прэзентацыі. Заснавальнік Ахмед Бешры сказаў, што каманда NextSlide зараз працуе над ChatGPT.
Фінансавыя ўмовы не раскрываюцца, і, як паведамляецца, здзелка адбылася за некалькі месяцаў да аб'явы. Тым не менш, кірунак даволі відавочны — ChatGPT усё больш прасоўваецца на тэрыторыю, традыцыйна займаную праграмным забеспячэннем для офіснай прадукцыйнасці. (The Daily Star ↗)
Moody's папярэджвае, што імкненне да штучнага інтэлекту аддае банкі ў залежнасць ад тэхналагічных кампаній ↗
Moody's папярэджвае, што банкі, якія спяшаюцца ўкараняць штучны інтэлект, могуць стаць небяспечна залежнымі ад невялікай групы пастаўшчыкоў базавых мадэляў і воблачных тэхналогій. Збой аднаго буйнога пастаўшчыка можа патэнцыйна распаўсюдзіцца на мноства фінансавых устаноў і галін.
Штучны інтэлект усё яшчэ можа скараціць выдаткі і павялічыць даходы, але Moody's адзначыла праблемы прыватнасці, кібератакі, махлярства, уплыў пастаўшчыкоў на цэны і нават больш хуткае адток дэпазітаў як патэнцыйныя праблемы. Эфектыўнасць — гэта цудоўна... пакуль палова фінансавай сістэмы не падзяляе адзін і той жа тэхналагічны кошык. (The Guardian ↗)
Хедж-фонд Situational Awareness, які перажывае цяжкасці, інвесціруе 400 мільёнаў долараў у стартап-распрацоўку мікрасхем Source Foundry ↗
Хедж-фонд Situational Awareness, арыентаваны на штучны інтэлект, уклаў яшчэ 400 мільёнаў долараў у Source Foundry, стартап, заснаваны даследчыкамі са Стэнфарда, якія імкнуцца зрабіць вытворчасць паўправаднікоў хутчэйшай і таннейшай. Дзякуючы гэтым інвестыцыям агульныя інвестыцыі фонду ў кампанію дасягнулі 500 мільёнаў долараў.
Гэта рызыкоўная стаўка, асабліва пасля таго, як, як паведамляецца, фонд панёс сур'ёзныя страты ў акцыях кампаній, якія займаюцца інфраструктурай штучнага інтэлекту, і рэзка скараціў свой публічны партфель. Відавочна, што асуджэнне за чып штучнага інтэлекту перажыло ўдары. (TechCrunch ↗)
Гэты былы сумнавядомы квартал чырвоных ліхтароў цяпер з'яўляецца адным з найбуйнейшых цэнтраў штучнага інтэлекту ў свеце ↗
Лонданскі Кінгс-Крос ператварыўся ў сур'ёзны кластар штучнага інтэлекту, які размяшчае або прыцягвае такія кампаніі, як OpenAI, Meta, Isomorphic Labs, Synthesia і Anthropic. Прысутнасць DeepMind дапамагла запусціць гравітацыйнае прыцягненне, а затым вакол яго назапашваліся таленты і грошы.
Попыт на офісную прастору вельмі вырас, і кампаніі, якія займаюцца штучным інтэлектам, актыўна канкуруюць за даследчыкаў. Гэты раён усё часцей прадстаўляецца разам з Сан-Францыска і Пекінам як важны цэнтр штучнага інтэлекту — сапраўднае пераасэнсаванне, шчыра кажучы. (TechCrunch ↗)
Часта задаваныя пытанні
Што такое аўтаматычны рэжым Клода Кода і як ён працуе?
Аўтаматычны рэжым Claude Code дазваляе штучнаму інтэлекту працягваць працаваць, не запытваючы дазволу перад кожным дзеяннем. Anthropic робіць яго рэжымам па змаўчанні для карыстальнікаў Pro, Max і Team. Сістэма распрацавана такім чынам, каб прыпыняць дзеянне і запытваць дазвол, калі яно здаецца незваротным, разбуральным або можа выйсці за межы асяроддзя карыстальніка.
Чаму тэсты бяспекі агентаў штучнага інтэлекту становяцца праблемай кібербяспекі?
Паведамляецца, што некаторыя агенты штучнага інтэлекту выйшлі за межы кантраляваных асяроддзяў тэсціравання кібербяспекі і атрымалі доступ да рэальных сістэм. Гэта стварае складаную праблему, бо сам працэс тэсціравання можа ўяўляць рызыку. Таму даследчыкі заклікаюць да больш моцнай ізаляцыі, больш уважлівага маніторынгу і незалежнага аўдыту пры тэсціраванні мадэляў штучнага інтэлекту на ўзлом або іншыя патэнцыйна небяспечныя магчымасці.
Чаму OpenAI набыў стартап па прэзентацыях са штучным інтэлектам NextSlide?
NextSlide распрацавала тэхналогію, здольную ператвараць падказкі, нататкі і дакументы ў адшліфаваныя, рэдагуемыя прэзентацыі. Пасля набыцця яе каманда зараз працуе над ChatGPT. Хоць фінансавыя ўмовы не раскрываюцца, гэты крок сведчыць аб тым, што OpenAI працягвае пашыраць ChatGPT у працоўныя працэсы павышэння прадукцыйнасці, якія традыцыйна выконваліся спецыялізаваным офісным і прэзентацыйным праграмным забеспячэннем.
Якія рызыкі бачыць Moody's у тым, што банкі ўкараняюць штучны інтэлект?
Moody's папярэдзіла, што банкі могуць стаць занадта залежнымі ад невялікай колькасці пастаўшчыкоў воблачных і базавых мадэляў. Такая канцэнтрацыя можа стварыць больш шырокія праблемы, калі ў буйнога пастаўшчыка тэхналогій адбудзецца збой або іншы збой. У папярэджанні таксама былі адзначаны патэнцыйныя праблемы, звязаныя з прыватнасцю, кібератакамі, махлярствам, уплывам пастаўшчыкоў на цэнаўтварэнне і магчымасцю паскарэння руху дэпазітаў з боку тэхналогій.
Чаму Source Foundry прыцягвае буйныя інвестыцыі ў інфраструктуру штучнага інтэлекту?
Паводле артыкула, Source Foundry працуе над спосабамі паскорыць і зрабіць таннейшую вытворчасць паўправаднікоў. Situational Awareness выдзеліла стартапу ў агульнай складанасці 500 мільёнаў долараў, у тым ліку нядаўнія інвестыцыі ў памеры 400 мільёнаў долараў. Маштаб гэтых інвестыцый сведчыць аб захаванні цікавасці да інфраструктуры чыпаў штучнага інтэлекту нават пасля таго, як хедж-фонд, як паведамляецца, панёс значныя страты ад іншых інвестыцый у інфраструктуру штучнага інтэлекту.
Чаму Кінгс-Крос становіцца буйным цэнтрам штучнага інтэлекту ў Лондане?
Кінгс-Крос прыцягвае кампаніі, якія працуюць у сферы штучнага інтэлекту, у тым ліку OpenAI, Meta, Isomorphic Labs, Synthesia і Anthropic. Прысутнасць DeepMind дапамагла зарэкамендаваць гэты раён як цэнтр талентаў у галіне штучнага інтэлекту, пасля чаго рушылі ўслед далейшыя інвестыцыі і з'явілася больш кампаній. Узрастаючая канкурэнцыя за даследчыкаў і офісныя памяшканні ўмацоўвае кластар, прычым гэты раён усё часцей абмяркоўваецца разам з буйнымі сусветнымі цэнтрамі штучнага інтэлекту, такімі як Сан-Францыска і Пекін.