Хакер узламаў сістэмы John Deere і SharkNinja з дапамогай арміі агентаў штучнага інтэлекту
Адзін хакер, больш за 100 вэб-сайтаў і агенты выканалі большую частку працы. Такія вынікі даследавання кампаніі па бяспецы Norforge, а агенцтва Reuters паведамляе, што сярод ахвяр былі John Deere, SharkNinja і Cummins.
Інструментам быў Cairn, платформа з адкрытым зыходным кодам, якая называе сябе «ўніверсальнай сістэмай вырашэння праблем». Вы ўстанаўліваеце пачатковую і канчатковую кропкі, агенты фіксуюць свой прагрэс — і, відаць, гэта працуе і для ўзломаў. Найбольш актыўны зламыснік выклаў «пераважную тактыку ўзлому» менш чым у 100 кітайскіх іерогліфах, прычым паспяховыя ўзломы занялі каля 23 гадзін.
Кантроль пашкоджанняў: Deere заяўляе, што «няма ніякіх прыкмет таго, што доступ да канфідэнцыйнай інфармацыі быў ажыццёўлены», SharkNinja кажа, што ўзлом быў ажыццёўлены толькі на асобным сайце падтрымкі прадуктаў, а Cummins расследуе сайт, які кіруецца пастаўшчыком. Стваральнік Cairn настойвае, што ён «ніколі не быў «інструментам узлому»». Вядома, але Norforge знайшоў больш за 20 уразлівых асобнікаў, якія выглядаюць «верагодна шкоднаснымі»
ЗША забараняюць выкарыстанне штучнага інтэлекту DeepSeek для ўрада з-за працяглай тэхналагічнай напружанасці з Кітаем
Міністэрства ўнутранай бяспекі ЗША забараніла выкарыстанне DeepSeek ва ўсіх грамадзянскіх дзяржаўных установах, а таксама любых тэхналогій, створаных з дапамогай яго мадэляў. Некалькі спазненнем пра гэта стала вядома толькі ў панядзелак — забарона ўступіла ў сілу ў канцы ліпеня.
Гэта тычыцца такіх устаноў, як Міністэрства фінансаў, Дзяржаўнага дэпартамента і Міністэрства юстыцыі, але не тычыцца абаронных ведамстваў. Акрамя таго, у паведамленні не былі дакладна пералічаны праблемы бяспекі, што крыху дзіўна, улічваючы маштаб гэтага кроку.
Самае няёмкае, што DeepSeek убудаваны ў мноства амерыканскіх прадуктаў, сярод якіх Snowflake, Vercel і OpenRouter. Ён танны, з адкрытым зыходным кодам, а яго дадатак для чат-бота — адзін з самых папулярных у App Store ад Apple. Тым часам Anthropic і OpenAI сцвярджаюць, што кітайскія фірмы, у тым ліку DeepSeek, па сутнасці скапіявалі іх мадэлі.
Amazon робіць найбуйнейшы крок супраць Nvidia з дапамогай новага інструмента распрацоўкі TorchNeuron
AWS выпусціла TorchNeuron, які дазваляе праграмам PyTorch запускацца на чыпах Trainium, змяніўшы ўсяго адзін радок канфігурацыі. Па словах Amazon, перапісванне кода не патрабуецца. Улічваючы, што, паводле ацэнак, каля 85% праграм штучнага інтэлекту напісаны з дапамогай PyTorch, гэта даволі вялікія магчымасці.
Сапраўднай мішэнню з'яўляецца CUDA ад Nvidia, якая настолькі цесна ўплецена ў PyTorch, што абсталяванне Nvidia практычна з'яўляецца выкарыстоўваным па змаўчанні. Amazon заяўляе, што таксама ўносіць змены ў асноўны код, каб выдаліць код, які прывязвае PyTorch да пэўных чыпаў. «Сапраўдная гісторыя заключаецца ў тым, каб зняць блакіроўку, якая не давала распрацоўшчыкам рэальнага выбару», — кажа Колін Брэйс з AWS.
Звярніце ўвагу, што гэта не зусім новая рэч — вы ўжо можаце партаваць праграмы PyTorch на відэакарты AMD або чыпы Apple, змяніўшы канфігурацыю. Amazon рэкламуе ўсё воблака вакол гэтага, і яна паказвае, што Deepgram апрацоўвае на 70% больш аўдыё за долар. Ці азначае гэта большы выбар, ці проста больш праблем з канфігурацыяй, пабачым.
Microsoft заяўляе, што агенты штучнага інтэлекту падобныя на ўнутраныя пагрозы, бо «мадэлям на мяжы нельга давяраць»
Microsoft запусціла Guardian Agents — функцыю, якая адсочвае агентаў штучнага інтэлекту, якія ўжо выкарыстоўваюцца кампаніяй. Яна знаходзіцца ў межах Project Perception, які першапачаткова меркаваў, што хакеры са штучным інтэлектам прыйдуць звонку. Цяпер вас турбуюць агенты, якім вы плаціце, якія паводзяць сябе як несумленныя супрацоўнікі.
Начальнік службы бяспекі Хает Галот не змякчыла сітуацыю: «На жаль, памежным мадэлям, незалежна ад іх паходжання, нельга давяраць». Не таму, што яны злыя, кажа яна, а таму, што яны непрадказальныя і часта давалі ключы ад каралеўства.
Дзіўна прамалінейна для кампаніі, якая інвеставала як у OpenAI, так і ў Anthropic. Таксама крыху эгаістычна, бо Microsoft хоча, каб вы куплялі ў яе агентаў бяспекі. Ёсць таксама функцыя Defender, якая выяўляе да 60 тыпаў агентаў, якіх супрацоўнікі прыносяць на працу, у тым ліку Claude Code, Codex і OpenClaw.
Мамдані заяўляе, што федэральныя ўлады адмовіліся ад штучнага інтэлекту, і заклікае жыхароў Нью-Ёрка супраціўляцца
Мэр Нью-Ёрка Зогран Мамдані сустрэўся з зоркай серыяла «Шырокі горад» Іланай Глейзер у зале Вэбстэр на Народнай асамблеі штучнага інтэлекту, арганізаванай Інстытутам штучнага інтэлекту зараз. Яго пасланне: укараненне штучнага інтэлекту не з'яўляецца непазбежным. «Нішто не павінна быць непазбежным», — сказаў ён.
Ён ужо прыняў меры ў гэтым кірунку, забараніўшы выкарыстанне штучнага інтэлекту ў пачатковых і сярэдніх школах у мінулым месяцы і заклікаўшы арэндадаўцаў раскрываць фатаграфіі аб'яваў, зробленыя з дапамогай штучнага інтэлекту, каб людзі не сталі ахвярамі «фішынгу». Глейзер, бацька, сказаў, што штучны інтэлект у класах «здаецца настолькі несанкцыянаваным»
Мамдані раскрытыкаваў «поўнае адмаўленне ад федэральнага заканадаўства» і гонку ўзбраенняў з Кітаем. Ён таксама назваў аргументы галіны супраць знешняга рэгулявання «спробай пазбегнуць любой адказнасці на любым узроўні, не ставячы пад пагрозу патэнцыйную ацэнку ад IPO». Ой.
Даследаванне паказвае, што новы інструмент штучнага інтэлекту можа прадказаць выжывальнасць пацыента з ракам па адным сэлфі
Даследчыкі з Масачусэтскага ўніверсітэта ў Брыгаме стварылі штучны інтэлект, які можа ацэньваць біялагічны ўзрост і прадказваць выжывальнасць пры раку па звычайнай фатаграфіі твару пацыента. Ён быў навучаны на больш чым 40 мільёнах фатаграфій твару, і даследаванне апублікавана ў часопісе Lancet Digital Health.
Існуе два інструменты. FAHR-FaceAge ацэньвае, наколькі стара вы выглядаеце, а FAHR-FaceSurvival непасрэдна прадказвае выжывальнасць. Сярод пацыентаў прамянёвай тэрапіі ў ЗША, якія выглядалі на пяць гадоў і больш старэйшымі за свой узрост, рызыка смерці на працягу сярэдняга чатырохгадовага перыяду назірання была на 21% вышэйшай. Выгляд на пяць гадоў маладзейшымі азначаў на 17% меншую рызыку.
Ён таксама надзвычай трывалы — ён вытрымаў пры паставе, асвятленні, выразе твару і макіяжы, і толькі пасля рынапластыкі змяніўся нязначна. Лекары падкрэсліваюць, што ён прызначаны для падтрымкі рашэнняў, а не для «замены меркавання лекара», і перад шырокім выкарыстаннем неабходныя дадатковыя даследаванні. Тым не менш, трохі трывожна.
У Сеуле пачынаецца трохдзённы Глабальны саміт па штучным інтэлекце і лічбавых тэхналогіях
Сеул прымае Глабальны саміт па штучным інтэлекце і лічбавых тэхналогіях, які сумесна арганізуюць Міністэрства навукі Паўднёвай Карэі і Група Сусветнага банка. У ім прынялі ўдзел прадстаўнікі ўрадаў з каля 50 краін, а таксама кампаніі і даследчыкі. Гэта першы раз, калі саміт праводзіцца за межамі ЗША.
Асноўная ўвага надаецца практычным аспектам: як штучны інтэлект і лічбавая трансфармацыя могуць прынесці выгады ў развіцці на практыцы. Пачатак — сустрэча міністраў пад сустаршынствам міністра навукі Пэ Кён Хуна і Кім Сан Бу з Сусветнага банка, затым — палітычныя форумы і выставы кампаній.
Карэя таксама прапануе сваю ініцыятыву «Штучны інтэлект для ўсіх», накіраваную на тое, каб паслугі штучнага інтэлекту былі даступныя кожнаму. Вядома, гэта не яркая навіна, але гэта добры супрацьлегласць загалоўкам пра ўзлом і забарону ў іншых навінах.
Часта задаваныя пытанні
Як хакер выкарыстаў агентаў штучнага інтэлекту, каб узламаць John Deere і SharkNinja?
Кампанія па бяспецы Norforge выявіла, што адзін хакер выкарыстаў армію агентаў штучнага інтэлекту для ўзлому больш чым 100 вэб-сайтаў, і Reuters паведамляе, што сярод ахвяр былі John Deere, SharkNinja і Cummins. Інструментам быў Cairn, платформа з адкрытым зыходным кодам, дзе вы ўстанаўліваеце пачатковую і канчатковую кропкі, а агенты фіксуюць свой прагрэс. Найбольш актыўны зламыснік выклаў пераважную тактыку ўзлому менш чым у 100 кітайскіх іерогліфах, і паспяховыя ўзломы занялі каля 23 гадзін.
Ці былі канфідэнцыйныя дадзеныя скрадзеныя падчас узлому агента штучнага інтэлекту Cairn?
Пакуль што пацярпелыя кампаніі прымяншаюць шкоду. Deere сцвярджае, што няма ніякіх прыкмет таго, што быў атрыманы доступ да канфідэнцыйнай інфармацыі, SharkNinja кажа, што быў узламаны толькі асобны сайт падтрымкі прадуктаў, а Cummins расследуе сайт, які кіруецца пастаўшчыком. Стваральнік Cairn настойвае на тым, што гэта ніколі не быў інструмент узлому. Тым не менш, Norforge выявіў больш за 20 уразлівых экзэмпляраў Cairn, якія, верагодна, выглядаюць шкоднаснымі, таму варта сачыць за далейшымі абнаўленнямі.
Чаму ЗША забаранілі ўраду выкарыстоўваць штучны інтэлект DeepSeek?
Міністэрства ўнутранай бяспекі забараніла DeepSeek ва ўсіх грамадзянскіх дзяржаўных установах, а таксама любыя тэхналогіі, створаныя з дапамогай яго мадэляў. Забарона распаўсюджваецца на такія міністэрствы, як казначэйства, дзяржаўны орган і юстыцыя, але выключае міністэрствы абароны. Яна ўступіла ў сілу ў канцы ліпеня і была апублікавана толькі ў панядзелак. У паведамленні не тлумачыліся канкрэтныя праблемы бяспекі, якія стаяць за такім маштабным крокам.
Якія амерыканскія кампаніі выкарыстоўваюць DeepSeek, нягледзячы на забарону ўрада?
DeepSeek убудаваны ў мноства амерыканскіх прадуктаў, сярод якіх Snowflake, Vercel і OpenRouter. Яго прывабнасць простая: ён танны, з адкрытым зыходным кодам, а яго дадатак для чат-бота з'яўляецца адным з самых папулярных у App Store ад Apple. Менавіта такое шырокае распаўсюджванне робіць федэральную забарону нязручнай. Тым часам Anthropic і OpenAI сцвярджаюць, што кітайскія фірмы, у тым ліку DeepSeek, па сутнасці скапіявалі іх мадэлі.
Як AWS TorchNeuron дазваляе праграмам PyTorch працаваць на Trainium замест Nvidia?
Паводле звестак Amazon, TorchNeuron дазваляе праграмам PyTorch запускацца на чыпах Trainium, змяняючы ўсяго адзін радок канфігурацыі без перапісвання кода. Amazon лічыць, што каля 85% праграм штучнага інтэлекту напісаны з дапамогай PyTorch, і кампанія імкнецца да прывязкі Nvidia да CUDA. AWS таксама ўносіць змены ў асноўны код, каб выдаліць код, які прывязвае PyTorch да пэўных чыпаў, і ў якасці прыкладу прыводзіць Deepgram, які апрацоўвае на 70% больш аўдыё на кожны долар.
Ці сапраўды TorchNeuron новы, калі PyTorch ужо працуе на іншых чыпах?
Не зусім. Вы ўжо можаце партаваць праграмы PyTorch на відэакарты AMD або чыпы Apple, змяніўшы канфігурацыю, таму пераключэнне на адну лінію само па сабе не з'яўляецца ўнікальным. Асноўная ідэя Amazon — гэта ўсё воблака AWS вакол Trainium, а таксама праца па выдаленні кода, характэрнага для чыпаў, з PyTorch. Ці атрымаюць распрацоўшчыкі большы выбар, ці проста больш праблем з канфігурацыяй, пакуль застаецца адкрытым пытаннем.
Што такое агенты Microsoft Guardian і чаму агенты штучнага інтэлекту разглядаюцца як унутраныя пагрозы?
Guardian Agents — гэта функцыя Microsoft, якая адсочвае агентаў штучнага інтэлекту, якіх ужо выкарыстоўвае кампанія, і яна знаходзіцца ў межах Project Perception. Занепакоенасць заключаецца ў тым, што агенты, за якіх вы плаціце, могуць паводзіць сябе як несумленныя супрацоўнікі. Кіраўнік службы бяспекі Хает Галот заявіў, што мадэлям памежнай зоны нельга давяраць — не таму, што яны шкоднасныя, а таму, што яны непрадказальныя і часта маюць шырокі доступ. Функцыя Defender таксама выяўляе да 60 тыпаў агентаў, у тым ліку Claude Code, Codex і OpenClaw.
Як штучны інтэлект можа прадказаць выжывальнасць пацыента пры раку па сэлфі?
Даследчыкі з Масачусэтскага ўніверсітэта ў Брыгаме навучылі штучны інтэлект на больш чым 40 мільёнах фатаграфій твараў, і вынікі даследавання апублікаваныя ў часопісе Lancet Digital Health. FAHR-FaceAge ацэньвае, наколькі стара чалавек выглядае, а FAHR-FaceSurvival непасрэдна прадказвае выжывальнасць. Сярод пацыентаў у ЗША, якія праходзяць прамянёвую тэрапію, выгляд на пяць гадоў старэйшым азначаў на 21% большы рызыка смерці на працягу сярэдняга чатырохгадовага назірання, а выгляд на пяць гадоў маладзейшым азначаў на 17% меншы рызыка. Лекары падкрэсліваюць, што гэта павінна падтрымліваць рашэнні, а не замяняць меркаванне лекара.