OpenAI падтрымлівае законапраекты ў Кангрэсе ЗША аб пагрозах штучнага інтэлекту і біялагічнай зброі
OpenAI падтрымлівае шэраг двухпартыйных законапраектаў аб біядадзеных — Закон аб сетцы біялагічных дадзеных, Закон аб стандартах біядадзеных, гатовых да выкарыстання штучнага інтэлекту, і Закон аб маштабнай біялогіі. Ідэя: спыніць мадэлі ад стварэння біялагічнай зброі і сінтэтычных вірусаў. Цяжкая тэма для прэс-рэлізу ў аўторак.
І пачакайце — яны таксама падтрымліваюць частку Закона FRONTIER, якая абавязвае вядучыя лабараторыі ўводзіць незалежных ацэншчыкаў бяспекі. Паводле інфармацыі Hill, яны ўпершыню падпісалі такі канкрэтны федэральны мандат.
Такім чынам… кампанія, якая гадамі казала «даверцеся нам», раптам просіць Кангрэс прымусіць старонніх азірнуцца. Прагрэс і лобісцкі тэатр могуць ісці рука аб руку.
У любым выпадку, пасыл гучыць гучна: біялагічная рызыка больш не з'яўляецца зноскай у афіцыйнай кнізе.
Фонд Гейтса заявіў, што выдаткуе 1 мільярд долараў на пашырэнне доступу да штучнага інтэлекту.
Пакуль лабараторыі спрачаюцца пра тое, ці варта націскаць на тармазы, Фонд Гейтса толькі што паабяцаў вылучыць як мінімум мільярд долараў на працягу двух гадоў, каб падштурхнуць штучны інтэлект да людзей, якія звычайна атрымліваюць рэшткі ежы.
Прыкладны падзел пасля запуску Goalkeepers: каля 40% адукацыя, 40% ахова здароўя, 10% сельская гаспадарка, 10% мовы і лічбавая сантэхніка. Падумайце пра рэпетытараў па матэматыцы, інструменты сельскай клінікі, памочнікаў па глебе/ўраджаі — плюс наборы дадзеных, каб мадэлі не былі толькі англамоўнымі назаўжды.
Лінія Гейтса рэзкая — без умяшання рынак спачатку стварае штучны інтэлект для самых багатых. Філантропія можа выглядаць як рашэнне або павязка на структурную праблему. Тым не менш. Мільярд — гэта не пацісканне плячыма.
Акрамя таго — ультрагукавое даследаванне са штучным інтэлектам на базе тэлефона, прызначанае для вымярэнняў бальнічнага ўзроўню. Дзіўна, калі яно будзе пастаўляцца ў вялікіх маштабах.
Новая мадэль разважанняў Salesforce і Nvidia — гэта ўсё, чаго павінны баяцца лабараторыі штучнага інтэлекту
Выдаленне Dreamforce: Koa. Першая мадэль разважанняў Salesforce для CRM, пасля навучання на адкрытай платформе Nvidia Nemotron, прызначаная для продажаў, падтрымкі і заблытаных шматэтапных карпаратыўных задач, на якія звычайна накіроўваюцца Клод і ChatGPT.
У навучанні няма рэальных дадзеных аб кліентах — замест іх сінтэтычныя персоны, у тым ліку «раз'юшаныя абаненты», што амаль занадта відавочна. Salesforce трымае вагі ў межах сваёй мяжы даверу. Іх CRM-праграма паказвае менш памылак з меншай колькасцю токенаў. Такеноміка. Усімі любімы слоган галіны.
Акрамя таго, яны не адмаўляюцца ад Anthropic. ClaudeForce усё яшчэ існуе. Так што так — стварыце свой уласны механізм разважанняў і працягвайце арандаваць памежныя лабараторыі. Супярэчнасць. Мягкая. Вельмі Salesforce.
Пілоты ўжо ў руху — Формула-1, бальніцы, крэдытныя саюзы. Магчыма, памежным лабараторыям варта крыху папацець.
Цяпер Meta дазваляе агентам штучнага інтэлекту выконваць сумныя этапы налады WhatsApp Business
Крок Меты — гэта не столькі экзістэнцыяльная драма, колькі «калі ласка, перастаньце прымушаць распрацоўшчыкаў клікаць па дванаццаці кансолях». Новы WhatsApp Business Tools MCP дазваляе Claude, Cursor, Codex, ChatGPT — выбірайце свайго агента — наладжваць бізнес-паведамленні, абмяркоўваючы іх.
Стварыце ўліковы запіс. Праверце нумар. Зарэгіструйцеся ў Cloud API. Распрацоўвайце шаблоны. Сачыце за вэб-хукамі. Нават ныце, калі Умовы абслугоўвання або аплата ціха не выконваюцца. Сумная праца, якой ніхто не хоча валодаць.
Адаптацыя ў бізнес-сэрвіс праз чат і MCP паўсюль, пакуль нешта не зламаецца нечаканым чынам, можа быць праўдай.
У любым выпадку — калі ваша налада WhatsApp Business раптам здалася вам занадта нецярплівым стажорам, цяпер вы ведаеце чаму.
Хуан з Nvidia разыходзіцца ў меркаваннях з генеральнымі дырэктарамі Anthropic і OpenAI адносна бяспекі штучнага інтэлекту ў Dreamforce
Тая ж сцэна Масконе, толькі ў процілеглых рэгістрах. Амадэй кажа Бэніафу, што тэмп — гэта тое, як трэба весці за сабой: паказвайце прыклад, будзьце лепшымі. Хуан ідзе далей і называе выбар паміж хуткасцю і бяспекай «ілжывым». Рынкавыя сілы. Новыя законы не патрэбныя. Бегчы хутка... калі толькі вы не збіраецеся адпраўляць нешта небяспечнае, тады спыніцеся.
Альтман пазней: бяспека і маніторынг павінны быць вышэйшымі за магчымасці. «Тут не павінна быць ніякіх умоўных тлумачэнняў». Такім чынам, тры генеральныя дырэктары не ўзгодненыя. Магчыма, суседнія.
За адзін дзень выступу публіка атрымала ўсю інфармацыю — пропаведзі пра запаволенне эканомікі, аптымізм чып-караля і падкрэсліванне адказнасці ў OpenAI без якіх-небудзь альтэрнатыўных варыянтаў «калі толькі канкурэнты не падмануць».
Які аргумент пераможа на практыцы, застаецца нявырашаным. Сачыце за тым, што выйдзе ў наступным квартале. Словы танныя. А вось відэакарты — не.
Іспанскі кантролер за данымі апублікаваў першую справаздачу аб уцечцы даных, звязанай з агентамі штучнага інтэлекту
Іспанская AEPD паведамляе, што атрымала першае паведамленне пра ўцечку персанальных дадзеных, нібыта здзейсненую агентам штучнага інтэлекту, які выкарыстоўвае шырока вядомы LLM для пошуку дзірак, пранікнення, змены персанальных дадзеных і прагляду рахункаў-фактур.
Абмежаванае ўмяшанне чалавека на некалькіх этапах атакі. Вось што самае страшнае. Не навуковая фантастыка. Інцыдэнт з дакументамі з убудаванай аўтаноміяй.
Агенцтва асцярожнае: не называе мадэль ці ахвяру; сцвярджае, што інфраструктура пастаўшчыка не была ўзламаная толькі таму, што хтосьці падвёз агента. Усё яшчэ разглядаецца. Усё яшчэ трывожна.
Адзін выпадак — гэта ўжо не тэндэнцыя. Але гэта ўжо і не тэарэтычна. Кантралёры, падрыхтуйце секундамеры — атакі сталі хутчэйшымі.
Часта задаваныя пытанні
Якія законапраекты аб штучным інтэлекце і біялагічнай зброі падтрымлівае OpenAI ў Кангрэсе?
OpenAI падтрымаў шэраг двухпартыйных законапраектаў аб біялагічных дадзеных, у тым ліку Закон аб сетцы біялагічных дадзеных, Закон аб стандартах біялагічных дадзеных, гатовых да выкарыстання штучнага інтэлекту, і Закон аб маштабнай біялогіі. Мэта — спыніць мадэлі ад перабольшвання біялагічнай зброі і сінтэтычных вірусаў. OpenAI таксама падтрымлівае палажэнне Закона FRONTIER, якое абавязвае вядучыя лабараторыі ўкараняць незалежных ацэншчыкаў бяспекі — па чутках, гэта першы выпадак, калі кампанія падпісала такі канкрэтны федэральны мандат. Біялагічная рызыка больш не разглядаецца як зноска ў тэхнічным дакуменце.
Як Фонд Гейтса траціць 1 мільярд долараў на доступ да штучнага інтэлекту?
Фонд Гейтса абяцаў вылучыць не менш за мільярд долараў на працягу двух гадоў, каб пашырыць доступ да штучнага інтэлекту для людзей, якія звычайна атрымліваюць рэшткі ежы. У рамках праграмы «Goalkeepers» прыкладна 40% будзе нададзена адукацыі, 40% ахове здароўя, 10% сельскай гаспадарцы і 10% вывучэнню моў і лічбавай сантэхнікі, ахопліваючы рэпетытараў па матэматыцы, інструменты для сельскіх клінік, памочнікаў па ўборцы глебы і ўраджаю, а таксама наборы даных, таму мадэлі не будуць заўсёды толькі на англійскай мове. Гейтс сцвярджае, што без умяшання рынак спачатку стварае штучны інтэлект для самых багатых. Адзін з амбіцыйных прыкладаў, калі ён будзе рэалізаваны ў вялікіх маштабах, — гэта выкарыстанне ультрагукавога даследавання са штучным інтэлектам на базе тэлефона, накіраванага на вымярэнне паказчыкаў бальнічнага ўзроўню.
Што такое мадэль разважанняў Koa ад Salesforce і Nvidia?
Koa — гэта першая мадэль разважанняў Salesforce для CRM, якая прайшла навучанне на базе Nemotron ад Nvidia з адкрытай вагой і прызначана для продажаў, падтрымкі і складанай шматэтапнай карпаратыўнай працы. У навучанні выкарыстоўваліся сінтэтычныя персанажы, у тым ліку раз'юшаныя абаненты, а не рэальныя дадзеныя кліентаў, і Salesforce захоўвае вагі ў межах сваёй мяжы даверу. CRM-стэмы паведамляюць пра менш памылак з меншай колькасцю токенаў. Salesforce не адмаўляецца ад Anthropic: ClaudeForce застаецца, таму кампанія стварае ўласны механізм разважанняў, усё яшчэ арандуючы перадавыя лабараторыі, з пілотамі, якія ўжо працуюць у Формуле-1, бальніцах і крэдытных саюзах.
Як WhatsApp Business MCP ад Meta дапамагае агентам са штучным інтэлектам?
Новы пакет бізнес-інструментаў WhatsApp ад Meta дазваляе такім агентам, як Claude, Cursor, Codex і ChatGPT, наладжваць бізнес-паведамленні, абмяркоўваючы іх у чаце. Агенты могуць стварыць уліковы запіс, праверыць нумар, зарэгістравацца ў Cloud API, распрацаваць шаблоны, сачыць за вэб-хукамі і скардзіцца, калі Умовы абслугоўвання або аплата ціха не выконваюцца. Мэта складаецца ў тым, каб замяніць сумную працу з некалькімі кансолямі, якой ніхто не хоча валодаць. Адаптацыя ў карпаратыўным сектары пачынае больш нагадваць размову з занадта нецярплівым стажором, чым націсканне на дванаццаць экранаў адміністратара.
Чым Huang з Nvidia адрозніваецца ад Anthropic і OpenAI ў пытанні бяспекі штучнага інтэлекту?
У Dreamforce Амадэі сказаў Бэніёфу, што тэмп — гэта тое, як вы вядзеце — паказвайце прыклад і будзьце лепшымі, — у той час як Джэнсен Хуанг назваў выбар паміж хуткасцю і бяспекай ілжывым, кіруемым рынкавымі сіламі, і новыя законы не патрэбныя, калі толькі вы не збіраецеся выпускаць нешта небяспечнае. Пазней Альтман падкрэсліў бяспеку і маніторынг, перш чым магчымасці, без якіх-небудзь тлумачэнняў. Тры генеральныя дырэктары не былі аднадушнымі: на адной сцэне прамаўляліся пропаведзі пра запаволенне, аптымізм чып-караля і адказнасць OpenAI. Тое, што будзе выпушчана ў наступным квартале, будзе мець большае значэнне, чым асноўныя прамовы.
Што паведаміў іспанскі кантролер дадзеных пра ўцечку агента штучнага інтэлекту?
Іспанская AEPD апублікавала сваё першае паведамленне пра ўцечку персанальных дадзеных, нібыта здзейсненую агентам штучнага інтэлекту з выкарыстаннем вядомай LLM для пошуку дзірак, пранікнення, змены персанальных дадзеных і прагляду рахункаў-фактур. Найбольш трывожным з'яўляецца абмежаванае ўмяшанне чалавека на некалькіх этапах атакі - інцыдэнт з дакументамі з убудаванай аўтаноміяй. Ведамства не назвала мадэль або ахвяру і заявіла, што інфраструктура пастаўшчыка не была ўзламаная толькі таму, што хтосьці пад'ехаў да агента. Справа ўсё яшчэ разглядаецца, але гэта ўжо не толькі тэорыя.