💰 Sequoia ціха скача ў мега-раўнд Anthropic ↗
Паведамляецца, што Sequoia, якая ўжо супрацоўнічае з некалькімі буйнымі лабараторыямі штучнага інтэлекту, далучаецца да маштабнага збору сродкаў Anthropic. Гэта той крок, які падымае ўсю размову пра «канфлікты, а не канфлікты» на новы ўзровень, незалежна ад таго, прызнае хтосьці гэта ці не.
Кажуць, што ў гэтым раўндзе будуць і іншыя важныя праверкі, што яшчэ больш падштурхне Anthropic да гэтай мега-ацэначнай паласы вышэйшага ўзроўню. Настроі на бурбалкі ўсё яшчэ захоўваюцца. Гэта таксама можа быць новай нормай, што раздражняе.
📢 ChatGPT пачынае фліртаваць з рэкламай — на гэты раз па-сапраўднаму ↗
Паведамляецца, што OpenAI тэстуе рэкламу для некаторых амерыканскіх карыстальнікаў на больш танных узроўнях, прычым больш высокааплатныя ўзроўні застануцца без рэкламы. Абяцаецца, што рэклама не будзе ўплываць на адказы — тэарэтычна гэта абнадзейвае, нават нягледзячы на тое, што рэфлекс даверу злёгку ўздрыгвае.
Галоўны падтэкст просты: высновы — гэта дорага, і падпіскі самі па сабе могуць не пакрываць усё назаўжды... ці так здаецца. Тым не менш, калі вы ўпершыню бачыце слова «спансіраваны» побач з чат-ботам, нешта змяняецца ў вашай галаве. Атмасфера змяняецца.
📚 Выдаўцы спрабуюць накласці кантракт на пазоў Google аб навучанні штучнаму інтэлекту ↗
Група выдаўцоў спрабуе далучыцца да пазову, які абвінавачвае Google у выкарыстанні аўтарскіх твораў для навучання сваіх сістэм штучнага інтэлекту. Гэтая судовая барацьба працягвае пашырацца, як расколіна ў лёдзе, якую вы пастаянна чуеце, але не можаце дакладна знайсці.
Калі суд іх дапусціць, справа можа абвастрыцца вакол таго, што павінны азначаць «дазвол» і «аплата» для навучальных дадзеных. Усе хочуць прэцэдэнту — пажадана, вядома, такога, які будзе на іх карысць.
🕳️ Паведамляецца, што хітрасць «хуткага ўвядзення» псуе Gemini праз дадзеныя сустрэч ↗
Даследчыкі апісалі атаку ў стылі «ўскоснага ўвядзення запыту», пры якой шкоднасныя інструкцыі хаваюцца ўнутры звычайнага кантэнту, а потым, калі карыстальнік пытаецца нешта нявіннае, за імі выконваецца памочнік. Ніякага шкоднаснага ПЗ, ніякай магіі — толькі тэкст, які ўвасабляе сабой зброю, незвычайна элегантны і ў той жа час даволі агідны.
Гэта напамін пра тое, што «LLM чытае ненадзейны тэкст» — гэта не мілая функцыя, а цэлая паверхня пагрозы. Як быццам дазваляць незнаёмцам цэлы дзень падсоўваць нататкі ў кішэні, а потым здзіўляцца, калі адна з іх аказваецца пасткай.
🎮 Генеральны дырэктар Razer кажа, што геймеры «ўжо любяць штучны інтэлект» — яны проста ненавідзяць гэты ярлык ↗
У сваёй прэзентацыі на CES кампанія Razer разглядала штучны інтэлект як практычны інструмент для распрацоўкі гульняў — кантроль якасці, ітэрацыі і гэтак далей — а таксама некаторыя канцэпцыі, падобныя на памочнікі, якія здаюцца напалову карыснымі, напалову навукова-фантастычнымі.
Яны таксама фактычна прызнаюць праблему брэндынгу: гульцы не хочуць «штучнага інтэлекту», але яны хочуць больш разумныя інструменты і больш плаўны інтэрфейс. Назавіце гэта «дапамогай», і людзі ківаюць галовамі. Назавіце гэта «штучным інтэлектам», і людзі часам бяруцца за вілы.
⚖️ Суд усталёўвае правілы для адвакатаў, якія выкарыстоўваюць генератыўны штучны інтэлект ↗
Суд апублікаваў рэкамендацыі, якія ў асноўным зводзяцца да наступнага: вядома, выкарыстоўвайце genAI, але праца ўсё роўна належыць вам. Нельга перадаць сваё прафесійнае меркаванне генератару тэкстаў, а потым здзіўляцца, калі ён упэўнена нешта выдумляе.
Цікава, што раскрыццё інфармацыі не патрабуецца, пакуль суддзя не папросіць, але пасыл аб адказнасці з'яўляецца сапраўднай асновай гэтага. Штучны інтэлект можа складаць чарнавікі і парадак... а таксама галюцынаваць, як самаўпэўнены стажор са схільнасцю да мастацкай літаратуры.
Часта задаваныя пытанні
Што азначае далучэнне Sequoia да мегараўнда Anthropic для інвестыцый у штучны інтэлект і канфліктаў?
Гэта сведчыць аб тым, што буйныя інвестары могуць працягваць падтрымліваць некалькі вядучых лабараторый штучнага інтэлекту адначасова, што, як і варта было чакаць, адраджае дыскусію пра «канфлікты, а не канфлікты». Калі адзін і той жа фонд уключаны ў некалькі лабараторый, людзі пачынаюць уважліва вывучаць стымулы, доступ і канкурэнтныя перавагі. Паведамляецца пра мегараўнд таксама падкрэслівае тэндэнцыю да велізарных чэкаў і высокіх ацэнак, нават калі ў паветры ўсё яшчэ вісяць «вібрацыі бурбалкі».
Ці атрымлівае ChatGPT рэкламу на бясплатных або таннейшых узроўнях, і ці паўплывае гэта на адказы?
У справаздачы гаворыцца, што OpenAI тэстуе рэкламу для некаторых амерыканскіх карыстальнікаў на больш танных узроўнях, у той час як больш высокааплатныя ўзроўні застаюцца без рэкламы. Таксама сцвярджаецца, што рэклама не будзе ўплываць на адказы, што гучыць абнадзейліва на паперы, але ўсё ж можа змяніць тое, як людзі ўспрымаюць давер. Падтэкст эканамічны: высновы дарагія, і падпіскі могуць не пакрываць усё назаўжды.
Чаму выдаўцы спрабуюць далучыцца да пазову Google аб навучанні штучнаму інтэлекту?
Група выдаўцоў імкнецца далучыцца да пазову, у якім сцвярджаецца, што Google выкарыстоўваў аўтарскія творы для навучання сістэм штучнага інтэлекту. Калі суд дазволіць ім гэта зрабіць, справа можа абвастрыцца вакол таго, як павінны выглядаць «дазвол» і «аплата» за навучальныя дадзеныя. Большая колькасць бакоў часта азначае большы ціск на выразны прэцэдэнт, асабліва адносна таго, хто атрымлівае кампенсацыю і на якіх умовах.
Што такое атака «ўскоснага імгненнага ўвядзення» і чаму яна так папулярная ў навінах аб штучным інтэлекце?
Гэта атака, пры якой шкоднасныя інструкцыі хаваюцца ўнутры звычайнага кантэнту, і памочнік выконвае іх пазней, калі карыстальнік робіць нявінны запыт. Асноўная праблема заключаецца ў тым, што мадэль счытвае ненадзейны тэкст, ператвараючы паўсядзённыя дакументы і паведамленні ў патэнцыйную паверхню пагрозы. Гэта пераканаўча, таму што можа працаваць без традыцыйнага шкоднаснага ПЗ — толькі з убудаванай у кантэнт мовай, якая выкарыстоўваецца як зброя.
Чаму геймеры не любяць ярлык «штучны інтэлект», але ўсё роўна хочуць інструменты штучнага інтэлекту?
Генеральны дырэктар Razer сцвярджае, што гульцам ужо падабаюцца практычныя перавагі — хутчэйшая праверка якасці, больш плаўная ітэрацыя і памочнікі ў працоўным працэсе, — але яны негатыўна рэагуюць на брэндынг. Праблема часта выклікаецца «непатрэбным штучным інтэлектам» або кантэнтам, які выглядае непатрабавальным і неаўтэнтычным. Перафармуляванне яго ў «дапаможную» або карыснаю функцыю можа стварыць уражанне, што ён паляпшае гульнявы досвед, а не замяняе творчасць.
Што азначаюць правілы суда для адвакатаў, якія выкарыстоўваюць генератыўны штучны інтэлект, і ці павінны яны раскрываць гэта?
Апісаныя рэкамендацыі простыя: юрысты могуць выкарыстоўваць генератыўны штучны інтэлект, але яны застаюцца адказнымі за працу і не могуць перадаваць прафесійнае меркаванне генератару тэкстаў. Рызыка заключаецца ў галюцынацыях — самаўпэўнена выдуманых фактах або цытатах, — таму праверка і адказнасць застаюцца цэнтральнымі. Паведамляецца, што раскрыццё інфармацыі не патрабуецца, калі суддзя не папросіць, але пасыл усё роўна такі: вы адказваеце за вынік.