Новы «кодэкс паводзін» Microsoft для штучнага інтэлекту загадвае мадэлям не ўзломваць сістэмы і не падманваць людзей
Добра, Microsoft адмовілася ад цэлай канстытуцыі для сваіх мадэляў — сапраўдных чырвоных ліній. Ніякіх кібератак. Ніякіх ядзерных прылад. Ніякіх фабрык глыбокіх фэйкаў. І галоўнае: мадэлі не дазваляецца выслізгваць ад закрыцця.
Яны называюць гэта агульным кодам, які перавызначае ўсё, што вы ўвялі ў чат. Што… крыху асвяжае. Ці кантралюе. Магчыма, і тое, і другое.
Надэла тут таксама ківае галавой разам з натоўпам, які «крочыць па мяжы». Асцярожная пастава і ўважлівасць да небяспечнай сітуацыі могуць выглядаць аднолькава звонку; Microsoft вырашыла не быць лабараторыяй, якая паціскае плячыма.
У любым выпадку, дакумент гучыць так, быццам хтосьці нарэшце напісаў карпаратыўнай прозай «калі ласка, не станавіцеся антаганістам фільмаў жахаў».
OpenAI купляе вытворцу камер для смартфонаў Glass Imaging за 300 мільёнаў долараў, гаворыцца ў паведамленні
Тым часам OpenAI цішком купіў стартап па вытворчасці камер за больш чым 300 мільёнаў долараў. Glass Imaging. Заснаваны былымі супрацоўнікамі Apple Portrait Mode. Так што гэта не выпадковае набыццё — гэтыя людзі пастаўлялі лінзы, якія ўсім вядомыя.
Ідэя не ў тым, што «штучны інтэлект выправіць ваша сэлфі пасля здымкі». Гэта нейронныя сеткі, якія вывучаюць канкрэтныя камеры тэлефона і атрымліваюць лепшыя здымкі пры націску на кнопку спуску засаўкі. Маленькія датчыкі, вялікія амбіцыі.
OpenAI, вядома ж, не каментаваў. І так — гэта побач з усімі чуткамі пра абсталяванне, тэлефоны, навушнікі і суправаджальныя гаджэты. Амаль чуваць, як хтосьці кажа «візіянальны стэк» на сустрэчы, і ўсе занадта моцна ківаюць галовамі.
Выбар кампаніі-вытворцы камер як адсутнага элемента прылады застаецца адкрытай стаўкай — ці проста вельмі дарагой стаўкай на тое, што пікселі ўсё яшчэ маюць значэнне, нават калі чат-боты з'ядуць свет.
Сусветныя акцыі кампаній, якія працуюць у сферы штучнага інтэлекту, падаюць, бо кіраўнікі галіны заклікаюць да запаволення развіцця
Рынкам не спадабалася пропаведзь бяспекі. Назвы чыпаў пацярпелі. SoftBank быў цалкам разгромлены ў Азіі. Еўрапейскі тэхналагічны фонд скрывіўся. SOX перажыў цяжкую раніцу.
Прычынай стаў той рэдкі момант, калі генеральныя дырэктары дамаўляюцца пра нешта — «запавольванне» Amodei, калі Альтман і Маск сказалі «так», у прынцыпе. Альтман таксама заявіў, што OpenAI не правядзе IPO ў гэтым годзе з-за праблем з бяспекай... у той час як Anthropic усё яшчэ імкнецца да гэтага. Гэтую напружанасць цяжка згладзіць.
Трамп адмахнуўся ад гэтага, назваўшы гэта «хворай змовай» супраць штучнага інтэлекту і цэнтраў апрацоўкі дадзеных. Майкл Бэры адхіліў папярэджанні, назваўшы іх перабольшаным шумам. Такім чынам, настрой такі: экзістэнцыяльны страх на адной лініі, цынізм, заснаваны на мемах, на іншай.
Акрамя таго, імёны спецыялістаў па кібербяспецы згуртаваліся. Бо, вядома, засцерагчыся ад «штучнага інтэлекту, які можа выйсці з-пад кантролю» — гэта «купляць больш праграмнага забеспячэння бяспекі». Капіталізм знаходзіць спосаб…
Вядучыя кампаніі ў галіне штучнага інтэлекту абмеркавалі стварэнне ўласнага органа па стандартызацыі
CNN паведамляе, што Anthropic, Google і OpenAI абмяркоўвалі стварэнне ўласнага органа па стандартызацыі — накшталт FINRA для памежных мадэляў. Хасабіс выказаў гэтую ідэю некалькі месяцаў таму. Цяпер рабочыя групы, відавочна, рэальна створаны.
Фінансуецца прамысловасцю. Незалежныя эксперты. Тэстуюць перадавыя мадэлі перад адпраўкай. Вядуцца перамовы аб тым, ці хоча Вашынгтон гуляць ці не.
Самарэгуляванне заўсёды гучыць высакародна, пакуль не ўспомніш, што адны і тыя ж лабараторыі спаборнічаюць адна з адной. Тады гэта гучыць як клуб з дрэс-кодам. Потым ты адступаеш: добра, магчыма, дапамогуць знешнія ацэншчыкі з доступам, падобным да доступу супрацоўнікаў.
Не ўсе гэта пераканалі. Па чутках, Цукерберг параіў Трампу адмовіцца ад ідэі FINRA для штучнага інтэлекту. Такім чынам, у кааліцыі «мы будзем кантраляваць сябе» ўжо ёсць вядомы аргумент супраць.
Anthropic арыентуецца на фінансавых кансультантаў з новым інструментам Claude
Пакуль палова індустрыі абмяркоўвала, ці варта спыняць працу, Anthropic перамантавала Клода ў Financial Advisors. Злучыла BlackRock, Schwab, Addepar, а таксама цэлы шэраг буйных кампаній, такіх як Envestnet і Orion.
Падрыхтоўка да сустрэчы. Агляд партфоліа. Далейшая праца. Непрывабныя рэчы, якія неяк усё яшчэ з'ядаюць чалавека ў аўторак.
Аднак час уражвае — праз некалькі дзён пасля таго, як OpenAI пачаў фінансаваць банкіраў і даследчыкаў. Так што так, яны крочаць па мяжы... і таксама змагаюцца за долю кашалькоў RIA. Лёгкае супярэчнасць. Вельмі лёгкае. Вельмі відавочнае.
Калі ваш кансультант пачынае падазрона бегла гаварыць пра вашы актывы, што ж. Цяпер вы ведаеце, чаму.
Лідары штучнага інтэлекту заклікаюць да запаволення тэмпаў. Каманда Трампа кажа, што ўсё залежыць ад іх
WIRED выразна перадае палітычную карціну: кіраўнікі лабараторый хочуць дапамагчы ім запаволіць тэмп; у Белым доме настрой «крута, зрабіце гэта самі»
Дэвід Сакс, па сутнасці, сказаў, што калі вашы неапублікаваныя мадэлі вас палохаюць, будзьце адказнымі, але перастаньце рабіць выгляд, што вам патрэбна адмова ад антыманапольнага заканадаўства, каб стварыць картэль бяспекі. Жорстка. Таксама цяжка спрачацца з гэтым, калі вы назіралі за гэтымі кампаніямі пяць хвілін.
Лінія Трампа прасцейшая: Амерыка лідзіруе ў Кітаі ў галіне штучнага інтэлекту, і ён хоча, каб гэта захавалася — «хто б ні пераможа ў ШІ, той і пераможа». Спікер Джонсан папярэджвае, што надзвычайнае ўвядзенне рэгулявання можа адкласці ход гонкі.
Такім чынам, абяцанне Альтмана «незалежных ацэншчыкаў з доступам, падобным да доступу супрацоўнікаў», апынулася ў гэтай няёмкай прагаліне — добраахвотнае стварэнне даверу, пакуль урад паціскае плячыма. Прагрэс і тэатр зноў ідуць разам.
Часта задаваныя пытанні
Што забараняе новы кодэкс паводзін Microsoft адносна штучнага інтэлекту?
Microsoft апублікавала агульны кодэкс паводзін з чырвонымі лініямі для сваіх мадэляў, у тым ліку забаронай кібератак, забаронай ядзерных работ і забаронай фабрык глыбокіх фэйкаў. Ключавое правіла заключаецца ў тым, што мадэлі не дазваляецца выслізгваць з-за адключэння. Код прызначаны для перавызначэння любога ўводу карыстальнікам у чат. Сацья Надэла таксама ківаў разам з натоўпам прыхільнікаў руху за мяжу, паколькі лабараторыі становяцца ўсё больш асцярожнымі ў грамадскіх месцах.
Чаму OpenAI купіла Glass Imaging прыкладна за 300 мільёнаў долараў?
Паведамляецца, што OpenAI купіла вытворцу камер для смартфонаў Glass Imaging за больш чым 300 мільёнаў долараў. Стартап быў заснаваны былымі інжынерамі Apple Portrait Mode, якія стварылі функцыі камер, якія ўжо вядомыя людзям. Яго галоўная ідэя — нейронныя сеткі, якія вывучаюць канкрэтныя камеры тэлефонаў і паляпшаюць здымкі пры націску спуску засаўкі, а не толькі выпраўленні, зробленыя штучным інтэлектам падчас фатаграфавання. Здзелка звязана з чуткамі аб абсталяванні для тэлефонаў, навушнікаў і іншых гаджэтаў, хоць OpenAI не каментаваў сітуацыю.
Чаму сусветныя акцыі кампаній па штучным інтэлекце ўпалі пасля таго, як кіраўнікі лабараторый заклікалі да запаволення тэмпаў росту?
Рынкі дрэнна адрэагавалі на рэдкі момант згоды генеральных дырэктараў, калі Амадэй заклікаў да запаволення распрацоўкі, а Альтман і Маск у цэлым пагадзіліся. Назвы чыпаў былі пашкоджаны, SoftBank пацярпеў няўдачу ў Азіі, еўрапейскі тэхналагічны фонд дрыжаў, а фондавая біржа SOX перажыла цяжкую раніцу. Альтман таксама заявіў, што OpenAI не правядзе IPO ў гэтым годзе з-за праблем з бяспекай, у той час як Anthropic усё яшчэ імкнецца да гэтага. Назвы кампаній па кібербяспецы ўмацавалі сваю папулярнасць у якасці абароны ад страху перад штучным інтэлектам-ізгоем.
Ці ствараюць Anthropic, Google і OpenAI свой уласны орган па стандартызацыі штучнага інтэлекту?
CNN паведамляе, што Anthropic, Google і OpenAI абмеркавалі стварэнне органа па галіновых стандартах — накшталт FINRA для мадэляў на мяжы — з фінансаваннем з боку галіны, незалежнымі экспертамі і перадпродажным тэсціраваннем перадавых мадэляў. Дэміс Хасабіс выказаў гэтую ідэю некалькі месяцаў таму, і, як паведамляецца, цяпер рабочыя групы рэальна сфармаваліся. Працягваюцца размовы аб тым, ці хоча Вашынгтон удзельнічаць. Не ўсе за гэта засталіся: па чутках, Цукерберг сказаў Трампу адмовіцца ад ідэі FINRA для штучнага інтэлекту.
Што такое Клод ад Anthropic для фінансавых кансультантаў?
Anthropic дадала Claude for Financial Advisors з каннектарамі да BlackRock, Schwab, Addepar і такіх буйных кампаній, як Envestnet і Orion. Інструмент арыентаваны на непрывабную кансультацыйную працу, такую як падрыхтоўка сустрэч, агляд партфеля і наступная актыўнасць. Запуск адбыўся праз некалькі дзён пасля таго, як OpenAI пачаў прасоўваць фінансавыя праекты для банкіраў і даследчыкаў. Гэта азначае, што лабараторыі праходзяць перадавыя пазіцыі на публіцы, усё яшчэ змагаючыся за долю кашалькоў RIA.
Як каманда Трампа адрэагавала на заклікі лідараў штучнага інтэлекту да запаволення тэмпаў росту?
Паводле звестак WIRED, кіраўнікі лабараторый хочуць дапамагчы ім запаволіць тэмпы, у той час як у Белым доме настрой такі, што яны павінны рабіць гэта самі. Дэвід Сакс сказаў, што калі неапублікаваныя мадэлі вас палохаюць, будзьце адказнымі, але перастаньце рабіць выгляд, што вам патрэбна адмова ад антыманапольнага заканадаўства для стварэння картэля бяспекі. Больш простая лінія Трампа заключаецца ў тым, што Амерыка лідзіруе ў Кітаі ў галіне штучнага інтэлекту, і той, хто пераможа, выйграе штучны інтэлект. Спікер Джонсан папярэджвае, што надзвычайнае заканадаўства можа адхіліць гонку, пакінуўшы абяцанне Альтмана аб незалежным ацэншчыку ў добраахвотнай прагаліне.