Ці зайшоў штучны інтэлект занадта далёка? [Відэа і віктарына]

Кароткі адказ: штучны інтэлект зайшоў занадта далёка, калі яго выкарыстоўваюць у прыняцці рашэнняў з высокімі стаўкамі, назіранні або перакананні без жорсткіх абмежаванняў, інфармаванай згоды і рэальнага права на абскарджанне. Ён зноў пераходзіць мяжу, калі глыбокія фэйкі і маштабуемыя махлярствы прымушаюць давер успрымацца як рызыка. Калі людзі не могуць зразумець, што штучны інтэлект адыграў нейкую ролю, не могуць зразумець, чаму рашэнне было прынята менавіта так, або не могуць адмовіцца, гэта ўжо занадта далёка.

Асноўныя высновы:

Межы: вызначаюць, што сістэма не можа рабіць, асабліва пры высокай нявызначанасці.

Падсправаздачнасць: Забяспечце, каб людзі маглі адхіляць вынікі без штрафаў або пастак ціску часу.

Празрыстасць: паведамляйце людзям, калі ў працэс удзельнічае штучны інтэлект і чаму ён прыняў такія рашэнні.

Аспрэчвальнасць: Забяспечце хуткія і практычныя шляхі абскарджання і зразумелыя спосабы выпраўлення няправільных дадзеных.

Супраціў злоўжыванням: дадайце паходжанне, абмежаванні хуткасці і элементы кіравання, каб стрымаць махлярства і злоўжыванні.

«Ці зайшоў штучны інтэлект занадта далёка?»

Самае дзіўнае, што перасячэнне мяжы не заўсёды відавочнае. Часам гэта гучна і крыкліва, як дзіпфэйк-афёра. (FTC, FBI) ​​Іншы раз гэта ціха — аўтаматычнае рашэнне, якое без тлумачэнняў змяняе ваша жыццё, і вы нават не разумееце, што вас «ацанілі». (UK ICO, GDPR арт. 22)

Такім чынам… Ці зайшоў штучны інтэлект занадта далёка? У некаторых месцах — так. У іншых — недастаткова далёка — таму што яго выкарыстоўваюць без непрывабных, але неабходных ахоўных панэляў, якія прымушаюць інструменты паводзіць сябе як інструменты, а не як рулеткі з зручным інтэрфейсам. 🎰🙂 (NIST AI RMF 1.0, Закон ЕС аб ​​штучным інтэлекце)

Артыкулы, якія вам могуць спадабацца пасля гэтага:

🔗 Чаму штучны інтэлект можа быць шкодным для грамадства
Асноўныя сацыяльныя рызыкі: прадузятасць, працоўныя месцы, прыватнасць і канцэнтрацыя ўлады.

🔗 Ці шкодны штучны інтэлект для навакольнага асяроддзя? Схаваныя наступствы
Як навучанне, цэнтры апрацоўкі дадзеных і спажыванне энергіі павялічваюць выкіды.

🔗 Штучны інтэлект — добры ці дрэнны? Плюсы і мінусы
Збалансаваны агляд пераваг, рызык і рэальных кампрамісаў.

🔗 Чаму штучны інтэлект лічыцца дрэнным: цёмны бок
Даследуе злоўжыванне, маніпуляцыі, пагрозы бяспецы і этычныя праблемы.

Што людзі маюць на ўвазе, калі кажуць: «Ці зайшоў штучны інтэлект занадта далёка?» 😬

Большасць людзей не пытаюцца, ці з'яўляецца штучны інтэлект «разумным» ці «захоплівае ўладу». Яны паказваюць на адно з наступных:

• Штучны інтэлект выкарыстоўваецца там, дзе яго не варта выкарыстоўваць. (Асабліва рашэнні з высокімі стаўкамі.) (Дадатак III да Закона ЕС аб ​​штучным інтэлекце, арт. 22 GDPR)

• Штучны інтэлект выкарыстоўваецца без вашай згоды. (Вашы дадзеныя, ваш голас, ваш твар... здзіўленне.) (UK ICO, GDPR арт. 5)

• Штучны інтэлект становіцца занадта ўмелым у маніпуляванні ўвагай. (Стужкі + персаналізацыя + аўтаматызацыя = заліпанне.) (Прынцыпы ШІ АЭСР)

• Штучны інтэлект робіць праўду неабавязковай. (Глыбокія фэйкі, фальшывыя агляды, сінтэтычныя «эксперты».) (Еўрапейская камісія, FTC, C2PA)

• Штучны інтэлект канцэнтруе ўладу. (Некалькі сістэм фарміруюць тое, што ўсе бачаць і могуць рабіць.) (UK CMA)

У гэтым і заключаецца сутнасць пытання «Ці зайшоў штучны інтэлект занадта далёка?». Гэта не адзін момант. Гэта набор стымулаў, хуткіх шляхоў і думак «мы выправім гэта пазней», якія, будзем шчырымі, звычайна перакладаюцца як «мы выправім гэта пасля таго, як хтосьці пацярпее». 😑

Не такая ўжо і сакрэтная праўда: штучны інтэлект — гэта множнік, а не маральны дзеяч 🔧✨

Штучны інтэлект не прачынаецца і не вырашае нашкодзіць. Людзі і арганізацыі нацэльваюцца на яго. Але ён памнажае ўсё, што вы яму даяце:

• Карысны намер становіцца надзвычай карысным (пераклад, даступнасць, рэзюмэ, выяўленне медыцынскіх заканамернасцей).

• Нядбайны намер становіцца надзвычай нядбайным (прадузятасць у маштабе, аўтаматызацыя памылак).

• Дрэнны намер ператвараецца ў надзвычай дрэнны (махлярства, пераслед, прапаганда, выдаванне сябе за іншую асобу).

Гэта як даць мегафон малому дзіцяці. Часам малое спявае… часам малое крычыць прама ў вашу душу. Не ідэальная метафара — трохі па-дурному — але сэнс трапляе ў кропку 😅📢.

Што робіць штучны інтэлект добрым у паўсядзённых умовах? ✅🤝

«Добрая версія» штучнага інтэлекту вызначаецца не тым, наколькі ён разумны. Яна вызначаецца тым, наколькі добра ён паводзіць сябе пад ціскам, нявызначанасцю і спакусамі (а людзі вельмі схільныя да спакусы таннай аўтаматызацыі). (NIST AI RMF 1.0, АЭСР)

Вось на што я звяртаю ўвагу, калі хтосьці сцвярджае, што выкарыстанне штучнага інтэлекту з'яўляецца адказным:

1) Выразныя межы

• Што дазволена рабіць сістэме?

• Што рабіць катэгарычна забаронена?

• Што адбываецца, калі ёсць няўпэўненасць?

2) Рэальная, а не дэкаратыўная чалавечая адказнасць

«Праверка» вынікаў чалавекам мае значэнне толькі ў тым выпадку, калі:

• яны разумеюць, што аглядаюць, і

• яны могуць адмяніць гэта, не будучы пакаранымі за запаволенне працэсу.

3) Тлумачнасць на належным узроўні

Не ўсім патрэбна матэматыка. Людзям патрэбна:

• асноўныя прычыны рашэння,

• якія дадзеныя былі выкарыстаны,

• як падаць апеляцыю, выправіць памылку або адмовіцца ад рассылкі. (UK ICO)

4) Вымерная прадукцыйнасць, у тым ліку рэжымы адмоваў

Не толькі «дакладнасць», але і:

• каму гэта не ўдаецца,

• як часта яно ціха выходзіць з ладу,

• што адбудзецца, калі свет зменіцца. (NIST AI RMF 1.0)

5) Канфідэнцыяльнасць і згода, якія не «схаваныя ў наладах»

Калі для атрымання згоды патрабуецца пошук скарбаў праз меню... гэта не згода. Гэта лазейка з дадатковымі крокамі 😐🧾. (GDPR, арт. 5, UK ICO)

Параўнальная табліца: практычныя спосабы перашкодзіць штучнаму інтэлекту зайсці занадта далёка 🧰📊

Ніжэй прыведзены «лепшыя варыянты» ў тым сэнсе, што яны з'яўляюцца распаўсюджанымі агароджамі або аперацыйнымі інструментамі, якія змяняюць вынікі (а не толькі вібрацыі).

Так, стол трохі няроўны. Такое жыццё. 🙂

Штучны інтэлект у прыняцці рашэнняў з высокімі стаўкамі: калі ён заходзіць занадта далёка 🏥🏦⚖️

Вось тут усё хутка становіцца сур'ёзным.

Штучны інтэлект у ахове здароўя, фінансах, жыллёвым будаўніцтве, працаўладкаванні, адукацыі, іміграцыі, крымінальным правасуддзі — гэта сістэмы, дзе: (Дадатак III да Закона ЕС аб ​​штучным інтэлекце, FDA)

• памылка можа каштаваць камусьці грошай, свабоды, годнасці або бяспекі,

• і пацярпелы чалавек часта мае абмежаваныя магчымасці для барацьбы.

Вялікая рызыка не ў тым, што «штучны інтэлект робіць памылкі». Вялікая рызыка ў тым, што памылкі штучнага інтэлекту становяцца палітыкай. (NIST AI RMF 1.0)

Як тут выглядае «занадта далёка»

• Аўтаматызаваныя рашэнні без тлумачэнняў: «камп'ютар кажа «не»» (ICO у Вялікабрытаніі)

• «Паказчыкі рызыкі» разглядаліся як факты, а не як здагадкі.

• Людзі, якія не могуць змяніць вынікі, таму што кіраўніцтва хоча хуткасці.

• Неахайныя, прадузятыя, састарэлыя або проста цалкам няправільныя дадзеныя.

Што павінна быць неабмеркаваным

• Права на абскарджанне (хутка, зразумела, не лабірынт). (GDPR, арт. 22, UK ICO)

• Права ведаць , што штучны інтэлект быў уцягнуты. (Еўрапейская камісія)

• Агляд чалавекам на прадмет наступстваў. (NIST AI RMF 1.0)

• Кантроль якасці дадзеных — бо «смецце на ўваходзе — смецце на выхадзе» — гэта ўсё яшчэ балючая праўда.

Калі вы спрабуеце правесці выразную мяжу, вось адна з іх:
калі сістэма штучнага інтэлекту можа істотна змяніць чыёсьці жыццё, да яе трэба ставіцца з такой жа сур'ёзнасцю, якой мы чакаем ад іншых формаў улады. Ніякага «бэта-тэставання» на людзях, якія не зарэгістраваліся. 🚫

Дыпфэйкі, махлярства і павольная смерць «Я давяраю сваім вачам» 👀🧨

Гэта тая частка, якая робіць паўсядзённае жыццё… слізкім.

Калі штучны інтэлект можа генераваць:

• галасавое паведамленне, якое гучыць як паведамленне члена вашай сям'і (FTC, ФБР)

• відэа, на якім публічная асоба нешта «кажа»,

• паток фальшывых водгукаў, якія выглядаюць дастаткова аўтэнтычнымі (FTC)

• фальшывы профіль у LinkedIn з фальшывай гісторыяй працы і фальшывымі сябрамі…

…гэта не проста спрыяе махлярству. Гэта аслабляе сацыяльную сувязь, якая дазваляе незнаёмцам каардынаваць дзеянні. А грамадства трымаецца на каардынацыі дзеянняў незнаёмцаў. 😵💫

«Занадта далёка» — гэта не толькі фальшывы кантэнт

Гэта асіметрыя:

• Генеляваць хлусню танна.

• Правяраць праўду дорага і павольна.

• І большасць людзей занятыя, стомленыя і гартаюць старонкі.

Што дапамагае (трохі)

• Маркеры паходжання для носьбітаў інфармацыі. (C2PA)

• Трэнне за віруснасць — запаволенне імгненнага масавага распаўсюджвання.

• Лепшая праверка асобы там, дзе гэта важна (фінансы, дзяржаўныя паслугі).

• Асноўныя звычкі «пазаканферэнцыйнай праверкі» для асоб (ператэлефанаваць, выкарыстоўваць кодавае слова, пацвердзіць праз іншы канал). (FTC)

Не гламурна. Але і рамяні бяспекі таксама не гламурныя, а я асабіста да іх вельмі прывязаны. 🚗

Пашырэнне назірання: калі штучны інтэлект цішком ператварае ўсё ў датчык 📷🫥

Гэты не выбухае, як дыпфэйк. Ён проста распаўсюджваецца.

Штучны інтэлект дазваляе лёгка:

• распазнаваць твары ў натоўпе (Закон ЕС аб ​​штучным інтэлекце, NIST FRVT)

• адсочваць заканамернасці руху,

• рабіць высновы пра эмоцыі з відэа (часта дрэнна, але ўпэўнена) (Barrett et al., 2019, Закон ЕС аб ​​штучным інтэлекце)

• прадказваць «рызыку» на аснове паводзін… або атмасферы вашага раёна.

І нават калі ён недакладны, ён усё роўна можа быць шкодным, бо можа апраўдаць умяшанне. Няправільны прагноз усё роўна можа выклікаць рэальныя наступствы.

Нязручная частка

Назіранне з дапамогай штучнага інтэлекту часта суправаджаецца гісторыяй бяспекі:

• «Гэта для прадухілення махлярства»

• «Гэта для бяспекі»

• «Гэта для зручнасці карыстальнікаў»

Часам гэта праўда. Часам гэта таксама зручная нагода для стварэння сістэм, якія пазней вельмі цяжка разабраць. Напрыклад, усталяванне аднабаковых дзвярэй у сваім доме, таму што ў той момант гэта здавалася эфектыўным. Зноў жа, не ідэальная метафара — трохі недарэчная — але ты гэта адчуваеш. 🚪😅

Як тут выглядае «добра»

• Строгія абмежаванні на захоўванне і распаўсюджванне.

• Ачысціць адпіскі.

• Вузкія выпадкі выкарыстання.

• Незалежны кантроль.

• Калі ласка, не выкарыстоўвайце «выяўленне эмоцый» для пакарання або кантролю доступу. 🙃 (Закон ЕС аб ​​штучным інтэлекце)

Праца, творчасць і праблема ціхай страты навыкаў 🧑💻🎨

Тут дыскусія становіцца асабістай, бо закранае ідэнтычнасць.

Штучны інтэлект можа зрабіць людзей больш прадуктыўнымі. Ён таксама можа даць ім адчуванне заменнасці. Абодва фактары могуць быць праўдай адначасова, на працягу аднаго тыдня. (АЭСР, СЭФ)

Дзе гэта сапраўды карысна

• Напісанне звычайнага тэксту, каб людзі маглі засяродзіцца на роздумах.

• Дапамога ў кадаванні для паўтаральных узораў.

• Інструменты даступнасці (субтытры, рэзюмэ, пераклад).

• Мазгавы штурм, калі вы затрымаліся.

Дзе гэта заходзіць занадта далёка

• Замена роляў без планаў пераходу.

• Выкарыстанне штучнага інтэлекту для скарачэння вытворчасці пры адначасовым выраўноўванні заработнай платы.

• Стаўленне да творчай працы як да бясконцых бясплатных навучальных дадзеных, а потым пацісканне плячыма. (Бюро па аўтарскім праве ЗША, GOV.UK Вялікабрытаніі)

• Знікненне малодшых пасад — гэта гучыць эфектыўна, пакуль вы не разумееце, што толькі што прапусцілі лесвіцу, па якой павінны падняцца будучыя эксперты.

Дэструкцыя — гэта ледзь прыкметна. Вы не заўважаеце гэтага кожны дзень. Потым аднойчы вы разумееце, што ніхто ў камандзе не памятае, як усё працуе без памочніка. А калі памочнік памыляецца, то вы ўсе разам проста пераканана памыляецеся... што выглядае як кашмар. 😬

Канцэнтрацыя ўлады: хто мае права ўстанаўліваць параметры па змаўчанні? 🏢⚡

Нават калі штучны інтэлект «нейтральны» (а гэта не так), той, хто яго кантралюе, можа ўплываць на:

• якая інфармацыя лёгкадаступная,

• што прасоўваецца ці хаваецца,

• якая мова дазволеная,

• якія паводзіны заахвочваюцца.

А паколькі сістэмы штучнага інтэлекту могуць быць дарагімі ў распрацоўцы і эксплуатацыі, улада, як правіла, канцэнтруецца. Гэта не змова. Гэта эканоміка ў тэхналагічнай толстоўцы з капюшонам. (UK CMA)

Момант «занадта далёка» тут

Калі дэфолты становяцца нябачным законам:

• вы не ведаеце, што фільтруецца,

• вы не можаце праверыць логіку,

• і вы рэальна не можаце адмовіцца, не страціўшы доступу да працы, супольнасці або базавых паслуг.

Здаровая экасістэма мае патрэбу ў канкурэнцыі, празрыстасці і рэальным выбары карыстальнікаў. Інакш вы па сутнасці арандуеце рэальнасць. 😵♂️

Практычны кантрольны спіс: як вызначыць, ці заходзіць штучны інтэлект занадта далёка ў вашым свеце 🧾🔍

Вось спіс, якім я карыстаюся (і так, ён недасканалы):

Калі вы фізічная асоба

• Я магу адрозніць, калі ўзаемадзейнічаю са штучным інтэлектам. (Еўрапейская камісія)

• Гэтая сістэма падштурхоўвае мяне да празмернага дзялення.

• Я б не супраць апрацаваць вынік, калі ён памылковы праўдападобным чынам.

• Калі б мяне падманулі з дапамогай гэтага, платформа б мне дапамагла... альбо проста праігнаравала б.

Калі вы бізнес або каманда

• Мы выкарыстоўваем штучны інтэлект, таму што ён каштоўны, альбо таму што ён модны, а кіраўніцтва неспакойнае.

• Мы ведаем, якія дадзеныя апрацоўвае сістэма.

• Пацярпелы карыстальнік можа абскардзіць вынікі. (UK ICO)

• Людзі маюць права пераадолець мадэль.

• У нас ёсць планы рэагавання на інцыдэнты ў выпадку збояў штучнага інтэлекту.

• Мы сочым за зрухам, няправільным выкарыстаннем і незвычайнымі памежнымі выпадкамі.

Калі вы адказалі «не» на некалькі з іх, гэта не значыць, што вы злыя. Гэта азначае, што вы знаходзіцеся ў звычайным чалавечым стане «мы адправілі гэта і спадзяваліся». Але, на жаль, спадзявацца — гэта не стратэгія. 😅

Заключныя нататкі 🧠✅

Дык… Ці зайшоў штучны інтэлект занадта далёка?
Ён зайшоў занадта далёка ў тым сэнсе, што яго выкарыстоўваюць без падсправаздачнасці, асабліва ў прыняцці рашэнняў з высокімі стаўкамі, масавага пераканання і назірання. Ён таксама зайшоў занадта далёка ў тым сэнсе, што падрывае давер — бо як толькі давер ламаецца, усё становіцца даражэйшым і больш варожым з сацыяльнага пункту гледжання. (NIST AI RMF 1.0, Закон ЕС аб ​​штучным інтэлекце)

Але штучны інтэлект не асуджаны на правал і не дасканалы па сваёй сутнасці. Гэта магутны мультыплікатар. Пытанне ў тым, ці будуем мы агароджы гэтак жа агрэсіўна, як і магчымасці.

Кароткі агляд:

• Штучны інтэлект — гэта добры інструмент.

• Гэта небяспечна як непадсправаздачная ўлада.

• Калі хтосьці не можа падаць апеляцыю, зразумець або адмовіцца — вось тут і пачынаецца «занадта далёка». 🚦 (GDPR, арт. 22, UK ICO)

Прыклад з рэальнага свету: Аўдыт рашэння, прынятага штучным інтэлектам, перш чым яно паўплывае на кліента

Сцэнар

Невялікі анлайн-крэдытор хоча выкарыстоўваць штучны інтэлект для сартавання заявак на крэдыты па трох групах: ухваленыя, ручны разгляді адхіленыя.

Гэта гучыць эфектыўна, але рызыка можа хутка ўзрасці. Адхілены заяўнік можа страціць доступ да экстранай дапамогі, і калі штучны інтэлект выкарыстоўвае няякасныя дадзеныя, састарэлыя здагадкі або праксі-сігналы, такія як паштовы індэкс, прабелы ў занятасці або тып прылады, сістэма можа ціха пакараць людзей, не даючы ім справядлівага тлумачэння.

Такім чынам, каманда вырашае, што штучны інтэлект не можа прымаць канчатковыя рашэнні аб адхіленні. Ён можа толькі пазначыць заяўкі для разгляду і растлумачыць, якія пункты дадзеных паўплывалі на рэкамендацыю.

Што патрабуецца для працоўнага працэсу

Перад тым, як скарыстацца паслугамі памочніка, каманда падрыхтоўвае:

• крэдытная палітыка, напісаная зразумелай, паўсядзённай мовай

• спіс дадзеных, якія штучны інтэлект мае права выкарыстоўваць

• спіс дадзеных, якія трэба ігнараваць, напрыклад, абароненыя характарыстыкі

• 50 папярэдніх заявак з вядомымі рашэннямі чалавека

• шаблон апеляцыі для адхіленых або затрыманых заяўнікаў

• журнал аўдыту, які паказвае, што рэкамендаваў штучны інтэлект і што вырашыў чалавек-рэцэнзент

Найважнейшае правіла простае: ніводзін кліент не будзе адхілены толькі штучным інтэлектам.

Прыклад інструкцыі

Вы — памочнік па разглядзе заявак на крэдыт з выкарыстаннем штучнага інтэлекту.

Ваша задача — дапамагчы рэцэнзенту вызначыць адсутную інфармацыю, неадпаведнасці правілам і выпадкі, якія патрабуюць ручной праверкі.

Вы не павінны прымаць канчатковае рашэнне аб пазыцы.

Для кожнага прыкладання вярніце:

1. Рэкамендаваны наступны крок: ухваліць для пацверджання чалавекам, праверыць уручную або запытаць дадатковую інфармацыю

2. Асноўныя прычыны рэкамендацыі

3. Выкарыстаныя кропкі дадзеных

4. Пункты даных, якія не варта выкарыстоўваць

5. Пытанні, якія павінен праверыць рэцэнзент

6. Зразумелае тлумачэнне для заяўніка

Калі доказы няпоўныя, скажыце пра гэта выразна.

Калі справа можа істотна паўплываць на фінансавае дабрабыт заяўніка, перадайце яе рэцэнзенту-чалавеку.

Як гэта праверыць

Каманда тэстуе памочніка, перш чым падпусціць яго да жывых праграм.

Добрыя тэставыя выпадкі ўключаюць:

• заяўнік са стабільным даходам, але з дрэннай крэдытнай гісторыяй

• заяўнік, які нядаўна змяніў адрас

• заяўнік, у якога адсутнічаюць дадзеныя аб даходах

• заяўнік, якому ў мінулым памылкова адмовілі

• два падобныя заяўнікі, у якіх адрозніваюцца толькі неістотныя дэталі

Для кожнага тэсту рэцэнзент правярае тры рэчы:

1. Ці пазбягаў памочнік прыняцця канчатковага рашэння?

2. Ці была ў ёй названа прычына, якую мог зразумець звычайны заяўнік?

3. Ці абвастралася ў ім нявызначаная сітуацыя або сітуацыя з вялікім уздзеяннем, а не здагадкі?

Вынік

Ілюстрацыйны вынік: у тэставым наборы з 50 прыкладанняў, дапусцім, што ручная праверка звычайна займае 12 хвілін на прыкладанне, або каля 10 гадзін у агульнай складанасці.

Паколькі памочнік са штучным інтэлектам рыхтуе рэзюмэ, праверкі адсутных дадзеных і чарнавікі тлумачэнняў, час разгляду скарачаецца да 7 хвілін на адну заяўку, або прыкладна да 5 гадзін 50 хвілін у агульнай складанасці.

Гэта, паводле ацэнак, эканомія складае 4 гадзіны 10 хвілін на кожныя 50 заявак, пры гэтым канчатковае рашэнне прымае чалавек.

Каманда таксама адсочвае якасць:

• 0 канчатковых адмоваў, зробленых штучным інтэлектам

• 50/50 заявак зарэгістравана для аўдыту

• 8 заявак перададзеныя на вышэйшую адукацыю з-за няпоўнасці доказаў

• 3 чарнавікі тлумачэнняў перапісаны, бо яны былі занадта расплывістымі

Гэтыя лічбы не з'яўляюцца доказам таго, што сістэма «бяспечная». Яны з'яўляюцца пачаткам звычкі вымяраць.

Што можа пайсці не так

Памочнік усё яшчэ можа зайсці занадта далёка, калі каманда ўспрыме яго рэкамендацыю як кароткі шлях, а не як падказку для агляду.

Сярод распаўсюджаных памылак:

• дазваляючы рэцэнзентам штампаваць вынікі штучнага інтэлекту

• хаваючы той факт, што штучны інтэлект дапамог ацаніць заяўку

• выкарыстоўваючы расплывістыя тлумачэнні, такія як «выяўленыя фактары рызыкі»

• неправерка на наяўнасць паштовага індэкса, узросту, інваліднасці або прадузятасці, звязанай з узроўнем даходу

• адсутнасць аўдытарскага следу

• запавольвае або прыніжае абскарджанне

Найбольш сур'ёзным трывожным сігналам з'яўляецца тое, што ніхто не можа растлумачыць, чаму кліенту адмовілі, затрымалі або паведамілі пра яго недахоп.

Практычны вывад

Штучны інтэлект найлепш працуе пры прыняцці рашэнняў з высокімі стаўкамі, калі ён скарачае адміністрацыйныя выдаткі, арганізуе доказы і выяўляе адсутную інфармацыю. Ён заходзіць занадта далёка, калі становіцца нябачным аўтарытэтам. Больш бяспечная схема — гэта не «хай штучны інтэлект вырашае хутчэй», а дазволіць штучнаму інтэлекту дапамагаць, фіксаваць усё і прыцягваць людзей да адказнасці, калі вынік мае значэнне.

Часта задаваныя пытанні

Ці зайшоў штучны інтэлект занадта далёка ў паўсядзённым жыцці?

У многіх месцах штучны інтэлект зайшоў занадта далёка, бо пачаў праслізгваць у рашэннях і ўзаемадзеянні без выразных межаў або падсправаздачнасці. Праблема рэдка заключаецца ў тым, што штучны інтэлект «існуе»; гэта тое, што штучны інтэлект ціха ўбудоўваецца ў найм, ахову здароўя, абслугоўванне кліентаў і каналы сувязі з слабым кантролем. Калі людзі не могуць сказаць, што гэта штучны інтэлект, не могуць аспрэчыць вынікі або адмовіцца ад яго выкарыстання, ён перастае адчувацца як інструмент і пачынае адчувацца як сістэма.

Як выглядае «занадта моцны штучны інтэлект» пры прыняцці рашэнняў з высокімі стаўкамі?

Здаецца, штучны інтэлект выкарыстоўваецца ў ахове здароўя, фінансах, жыллёвым будаўніцтве, працаўладкаванні, адукацыі, іміграцыі ці крымінальным правасуддзі без надзейных гарантый. Галоўная праблема не ў тым, што мадэлі робяць памылкі, а ў тым, што гэтыя памылкі ўкараняюцца ў палітыку і іх становіцца цяжка аспрэчыць. Рашэнні тыпу «камп'ютар кажа «не» з няўлоўнымі тлумачэннямі і без значных абгрунтаваных заяў — гэта тое, дзе шкода хутка нарастае.

Як я магу даведацца, ці ўплывае на мяне аўтаматызаванае рашэнне, і што я магу зрабіць?

Распаўсюджанай прыкметай з'яўляецца раптоўны вынік, які вы не можаце растлумачыць: адмова, абмежаванне або «ацэнка рызыкі» без выразнай прычыны. Многія сістэмы павінны раскрываць, калі штучны інтэлект адыграў істотную ролю, і вы павінны мець магчымасць запытаць асноўныя прычыны рашэння і крокі для яго абскарджання. На практыцы запытайце праверку чалавекам, выпраўце любыя няправільныя дадзеныя і настойвайце на простым шляху адмовы.

Ці зайшоў штучны інтэлект занадта далёка з прыватнасцю, згодай і выкарыстаннем дадзеных?

Часта гэта здараецца, калі згода ператвараецца ў пошук скарбаў, а збор дадзеных пашыраецца «на ўсялякі выпадак». Асноўная думка артыкула заключаецца ў тым, што прыватнасць і згода не маюць вялікай вагі, калі яны схаваныя ў пэўных умовах або навязаныя расплывістымі тэрмінамі. Больш здаровы падыход — гэта мінімізацыя дадзеных: збіраць менш, захоўваць менш і рабіць выбар непамыльным, каб людзі пазней не былі здзіўлены.

Як глыбокія фэйкі і махлярства з выкарыстаннем штучнага інтэлекту змяняюць значэнне «даверу» ў інтэрнэце?

Яны робяць праўду неабавязковай, зніжаючы кошт стварэння пераканаўчых фальшывых галасоў, відэа, водгукаў і ідэнтычнасцей. Праблема ў асіметрыі: стварэнне хлусні — гэта танна, а праверка праўды — павольная і стомная. Практычныя меры абароны ўключаюць сігналы паходжання для СМІ, запаволенне распаўсюджвання вірусаў, больш жорсткія праверкі ідэнтычнасці там, дзе гэта важна, і звычкі «праверкі па-за зонай», такія як зваротны званок або выкарыстанне агульнага кодавага слова.

Якія найбольш практычныя перашкоды могуць перашкодзіць штучнаму інтэлекту зайсці занадта далёка?

Да мер, якія ўплываюць на вынікі, адносяцца сапраўдная праверка з удзелам чалавека на выпадак важных выклікаў, зразумелыя працэсы абскарджання і журналы аўдыту, якія могуць адказаць на пытанне «што здарылася?» пасля збояў. Ацэнка мадэляў і тэставанне на прадузятасць дазваляюць выявіць прадказальную шкоду раней, у той час як тэставанне «чырвонай каманды» мадэлюе злоўжыванне раней, чым гэта зробяць зламыснікі. Абмежаванні хуткасці і кантроль доступу дапамагаюць імгненна прадухіліць маштабаванне злоўжыванняў, а мінімізацыя дадзеных зніжае рызыку па ўсіх напрамках.

Калі назіранне з дапамогай штучнага інтэлекту перасякае мяжу?

Гэта пераходзіць мяжу, калі ўсё па змаўчанні ператвараецца ў датчык: распазнаванне твараў у натоўпе, адсочванне рухаў або ўпэўненае «выяўленне эмоцый», якое выкарыстоўваецца для пакарання або кантролю доступу. Нават недакладныя сістэмы могуць прычыніць сур'ёзную шкоду, калі яны апраўдваюць умяшанне або адмову ў паслугах. Добрая практыка выглядае як вузкія выпадкі выкарыстання, строгія абмежаванні на захоўванне, значныя адмовы, незалежны кантроль і цвёрдае «не» хісткім рашэнням, заснаваным на эмоцыях.

Ці робіць штучны інтэлект людзей больш прадуктыўнымі, ці ціха пазбаўляе іх працы кваліфікацыі?

Абодва могуць быць праўдай адначасова, і ў гэтым супярэчнасці і заключаецца сэнс. Штучны інтэлект можа дапамагчы з руцінным чарнавіком, паўтаральнымі шаблонамі кадавання і даступнасцю, вызваляючы людзей, каб засяродзіцца на мысленні больш высокага ўзроўню. Ён заходзіць занадта далёка, калі замяняе ролі без планаў пераходу, зніжае заработную плату, разглядае творчую працу як бясплатныя навучальныя дадзеныя або выдаляе малодшыя ролі, якія фарміруюць будучы вопыт. Дэкваліфікацыя застаецца нязначнай, пакуль каманды не змогуць функцыянаваць без памочніка.

Спасылкі

1. Нацыянальны інстытут стандартаў і тэхналогій (NIST) - Структура кіравання рызыкамі штучнага інтэлекту (AI RMF 1.0) - nist.gov

2. Еўрапейскі Саюз - Закон ЕС аб ​​штучным інтэлекце (Рэгламент (ЕС) 2024/1689) - Афіцыйны часопіс (англійская мова) - europa.eu

3. Еўрапейская камісія - Рэгулятарная база для штучнага інтэлекту (старонка палітыкі Закона ЕС аб ​​штучным інтэлекце) - europa.eu

4. Служба падтрымкі да Закона ЕС аб ​​штучным інтэлекце - Дадатак III (Сістэмы штучнага інтэлекту высокай рызыкі) - europa.eu

5. Еўрапейскі Саюз - Правілы надзейнага штучнага інтэлекту ў ЕС (рэзюмэ Закона ЕС аб ​​штучным інтэлекце) - europa.eu

6. Упраўленне інфармацыйнага камісара Вялікабрытаніі (ICO) - Што такое аўтаматызаванае прыняцце індывідуальных рашэнняў і прафіляванне? - ico.org.uk

7. Офіс інфармацыйнага камісара Вялікабрытаніі (ICO) - Што кажа GDPR Вялікабрытаніі аб аўтаматызаваным прыняцці рашэнняў і прафіляванні? - ico.org.uk

8. Упраўленне інфармацыйнага камісара Вялікабрытаніі (ICO) - Аўтаматызаванае прыняцце рашэнняў і прафіляванне (цэнтр кіраўніцтва) - ico.org.uk

9. Офіс інфармацыйнага камісара Вялікабрытаніі (ICO) - Мінімізацыя дадзеных (кіраўніцтва па прынцыпах GDPR Вялікабрытаніі) - ico.org.uk

10. GDPR-info.eu - Артыкул 22 GDPR - gdpr-info.eu

11. GDPR-info.eu - Артыкул 5 GDPR - gdpr-info.eu

12. Федэральная гандлёвая камісія ЗША (FTC) - Ашуканцы выкарыстоўваюць штучны інтэлект для паляпшэння сваіх схем надзвычайнай дапамогі сем'ям - ftc.gov

13. Федэральная гандлёвая камісія ЗША (FTC) - Ашуканцы выкарыстоўваюць фальшывыя надзвычайныя сітуацыі, каб украсці вашы грошы - ftc.gov

14. Федэральная гандлёвая камісія ЗША (FTC) - Канчатковае правіла, якое забараняе фальшывыя водгукі і рэкамендацыі (прэс-рэліз) - ftc.gov

15. Федэральнае бюро расследаванняў (ФБР) - ФБР папярэджвае аб узрастаючай пагрозе кіберзлачынцаў, якія выкарыстоўваюць штучны інтэлект - fbi.gov

16. Арганізацыя эканамічнага супрацоўніцтва і развіцця (АЭСР) - Прынцыпы АЭСР па штучным інтэлекце - oecd.ai

17. АЭСР - Рэкамендацыя Савета па штучным інтэлекце (OECD/LEGAL/0449) - oecd.org

18. Еўрапейская камісія - Рэкамендацыі і кодэкс практыкі для празрыстых сістэм штучнага інтэлекту (FAQ) - europa.eu

19. Кааліцыя за паходжанне і сапраўднасць кантэнту (C2PA) - Спецыфікацыі v2.3 - c2pa.org

20. Упраўленне па канкурэнцыі і рынках Вялікабрытаніі (CMA) - Мадэлі асновы штучнага інтэлекту: першапачатковая справаздача - gov.uk

21. Упраўленне па кантролі за харчовымі прадуктамі і лекамі ЗША (FDA) - Медыцынскія прылады на базе штучнага інтэлекту - fda.gov

22. NIST - Меры бяспекі і прыватнасці для інфармацыйных сістэм і арганізацый (SP 800-53 Rev. 5) - nist.gov

23. NIST - Генератыўны профіль штучнага інтэлекту (NIST.AI.600-1, ipd) - nist.gov

24. Адкрыты сусветны праект бяспекі прыкладанняў (OWASP) - Неабмежаванае спажыванне рэсурсаў (Топ-10 бяспекі API, 2023 г.) - owasp.org

25. NIST - Дэмаграфічныя дадзеныя па тэсціраванні пастаўшчыкоў паслуг распазнавання твараў (FRVT) - nist.gov

26. Барэт і інш. (2019) - Артыкул (PMC) - nih.gov

27. АЭСР - Выкарыстанне штучнага інтэлекту на працоўным месцы (PDF) - oecd.org

28. Сусветны эканамічны форум (СЭФ) - Дайджэст аб будучыні працоўных месцаў за 2025 год - weforum.org

29. Ведамства па аўтарскім праве ЗША - Аўтарскае права і штучны інтэлект, частка 3: справаздача аб навучанні генератыўнаму штучнаму інтэлекту (версія перад публікацыяй) (PDF) - copyright.gov

30. Урад Вялікабрытаніі (GOV.UK) - Аўтарскае права і штучны інтэлект (кансультацыя) - gov.uk

Знайдзіце найноўшы штучны інтэлект у афіцыйнай краме памочнікаў штучнага інтэлекту

Пра нас