Колькі энергіі спажывае штучны інтэлект?

Колькі энергіі спажывае штучны інтэлект?

Адказ: Штучны інтэлект можа выкарыстоўваць вельмі мала электраэнергіі для простай тэкставай задачы, але значна больш, калі падказкі доўгія, вынікі шматмадальныя або сістэмы працуюць у вялікіх маштабах. Навучанне звычайна з'яўляецца асноўным пачатковым ударам па энергіі, у той час як штодзённыя высновы становяцца важнымі па меры назапашвання запытаў.

Асноўныя высновы:

Кантэкст : Вызначце задачу, мадэль, абсталяванне і маштаб, перш чым даваць якія-небудзь ацэнкі спажывання энергіі.

Навучанне : Пры планаванні бюджэтаў разглядайце навучанне мадэлі як асноўную падзею, якая патрабуе першапачатковай энергіі.

Выснова : Уважліва сачыце за паўторнымі высновамі, бо невялікія выдаткі на кожны запыт хутка назапашваюцца пры маштабаванні.

Інфраструктура : Уключыце астуджэнне, захоўванне дадзеных, сеткі і прастой у любую рэалістычную ацэнку.

Эфектыўнасць : выкарыстоўвайце меншыя мадэлі, карацейшыя запыты, кэшаванне і пакетную апрацоўку, каб скараціць спажыванне энергіі.

Колькі энергіі спажывае штучны інтэлект? Інфаграфіка

Артыкулы, якія вам могуць спадабацца пасля гэтага:

🔗 Як штучны інтэлект уплывае на навакольнае асяроддзе
Тлумачыць вугляродны след штучнага інтэлекту, спажыванне энергіі і кампрамісы ў галіне ўстойлівага развіцця.

🔗 Ці шкодны штучны інтэлект для навакольнага асяроддзя?
Раскрывае схаваныя экалагічныя выдаткі мадэляў штучнага інтэлекту і цэнтраў апрацоўкі дадзеных.

🔗 Штучны інтэлект — добры ці дрэнны? Плюсы і мінусы
Збалансаваны погляд на перавагі, рызыкі, этыку і рэальныя наступствы штучнага інтэлекту.

🔗 Што такое штучны інтэлект? Простае кіраўніцтва
Вывучыце асновы штучнага інтэлекту, ключавыя тэрміны і паўсядзённыя прыклады за лічаныя хвіліны.

Чаму гэтае пытанне важнейшае, чым людзі думаюць 🔍

Выкарыстанне энергіі штучным інтэлектам — гэта не толькі тэма для абмеркавання навакольнага асяроддзя. Яно закранае некалькі вельмі рэальных рэчаў:

  • Кошт электраэнергіі — асабліва для прадпрыемстваў, якія выконваюць шмат запытаў штучнага інтэлекту

  • Уплыў вугляроду — у залежнасці ад крыніцы харчавання сервераў

  • Нагрузка на абсталяванне - магутныя чыпы спажываюць значную магутнасць

  • Маштабаванне рашэнняў - адна танная падказка можа ператварыцца ў мільёны дарагіх

  • Дызайн прадукту — эфектыўнасць часта з'яўляецца лепшай характарыстыкай, чым людзі ўсведамляюць ( Google Cloud , зялёны штучны інтэлект )

Многія людзі пытаюцца: «Колькі энергіі спажывае штучны інтэлект?», бо ім патрэбная ўражлівая лічба. Нешта велізарнае. Нешта, што можа стаць хітом для загалоўкаў. Але лепш задаць пытанне: пра які тып выкарыстання штучнага інтэлекту ідзе гаворка? Таму што гэта змяняе ўсё. ( IEA )

Адна прапанова аўтазапаўнення? Даволі маленькая.
Навучанне мадэлі фронту на велізарных кластарах? Значна, значна большая.
Пастаянна працуючы карпаратыўны працоўны працэс штучнага інтэлекту, які закранае мільёны карыстальнікаў? Так, гэта хутка назапашваецца... як капейкі, якія ператвараюцца ў арэндную плату. ( ДЭА , Google Cloud )

Колькі энергіі спажывае штучны інтэлект? Кароткі адказ ⚡

Вось практычная версія.

Штучны інтэлект можа выкарыстоўваць ад нязначнай долі ват-гадзіны для лёгкай задачы да велізарнай колькасці электраэнергіі для маштабнага навучання і разгортвання. Гэты дыяпазон гучыць камічна шырокім, таму што ён вельмі шырокі. ( Google Cloud , Strubell і інш. )

Проста кажучы:

  • Простыя задачы вываду — часта адносна сціплыя ў разліку на кожнае выкарыстанне

  • Доўгія размовы, вялікія выхады, генерацыя малюнкаў, генерацыя відэа - прыкметна больш энергаёмістыя

  • Навучанне вялікіх мадэляў - чэмпіён па спажыванні энергіі ў цяжкай вазе

  • Запуск штучнага інтэлекту ў маштабе на працягу ўсяго дня — дзе «маленькая сума на запыт» ператвараецца ў «вялікі агульны рахунак» ( Google Cloud , DOE )

Добрае эмпірычнае правіла такое:

  • Трэніроўка — гэта гіганцкая падзея, якая выпрацоўвае энергію на пачатку 🏭

  • Выснова — гэта бягучы рахунак за камунальныя паслугі 💡 ( Strubell et al. , Google Research )

Такім чынам, калі хтосьці пытаецца: « Колькі энергіі спажывае штучны інтэлект?» , прамы адказ будзе: «Не адназначная колькасць, а дастатковая колькасць, каб эфектыўнасць мела значэнне, і дастатковая колькасць, каб маштаб змяніў усю гісторыю». ( IEA , «Зялёны штучны інтэлект» )

Ведаю, гэта не так прывабна, як людзям хацелася б. Але гэта праўда.

Што робіць версію ацэнкі энергіі з дапамогай штучнага інтэлекту добрай? 🧠

Добрая ацэнка — гэта не проста драматычная лічба, накінутая на графіку. Практычная ацэнка ўключае кантэкст. Інакш гэта як узважваць туман на вагах у ваннай. Дастаткова блізка, каб гучала ўражліва, але недастаткова блізка, каб давяраць. ( IEA , Google Cloud )

Добрая ацэнка энергіі, атрыманая штучным інтэлектам, павінна ўключаць:

  • Тып задання — тэкст, выява, аўдыё, відэа, навучанне, дапрацоўка

  • Памер мадэлі — больш буйныя мадэлі звычайна патрабуюць больш вылічальнай магутнасці

  • Выкарыстоўваемае абсталяванне — не ўсе чыпы аднолькава эфектыўныя

  • Працягласць сесіі — кароткія падказкі і доўгія шматэтапныя працоўныя працэсы вельмі адрозніваюцца

  • Выкарыстанне - сістэмы, якія знаходзяцца ў рэжыме чакання, усё яшчэ спажываюць энергію

  • Астуджэнне і інфраструктура - сервер - гэта яшчэ не ўсё

  • Месцазнаходжанне і энергетычны баланс — электрычнасць не ўсюды аднолькава чыстая ( Google Cloud , IEA )

Вось чаму два чалавекі могуць спрачацца пра спажыванне электраэнергіі штучным інтэлектам і абодва гучаць упэўнена, гаворачы пра зусім розныя рэчы. Адзін мае на ўвазе адзін адказ чат-бота. Другі — гіганцкі трэніровачны прабег. Абодва кажуць «штучны інтэлект», і раптам размова збіваецца з рэек 😅

Параўнальная табліца - найлепшыя спосабы ацаніць спажыванне энергіі штучным інтэлектам 📊

Вось практычная табліца для тых, хто спрабуе адказаць на гэтае пытанне, не ператвараючы яго ў перформанс.

Інструмент або метад Найлепшая аўдыторыя Кошт Чаму гэта працуе
Простая ацэнка па эмпірычным правіле Цікаўныя чытачы, студэнты Бясплатна Хутка, лёгка, трохі размыта — але дастаткова добра для прыблізнага параўнання
Ватметр на баку прылады Індывідуальныя будаўнікі, аматары Нізкі Вымярае рэальную цягу машыны, якая асвяжальна канкрэтная
Панэль кіравання тэлеметрыяй графічнага працэсара Інжынеры, каманды машыннага навучання Сярэдні Лепшая дэталізацыя задач, якія патрабуюць вялікіх вылічэнняў, хоць яна можа не ўлічваць накладныя выдаткі на больш буйныя аб'екты
Воблачнае афармленне рахункаў + журналы выкарыстання Стартапы, аперацыйныя каманды Сярэдні да высокага Звязвае выкарыстанне штучнага інтэлекту з рэальнымі выдаткамі — не ідэальна, але ўсё яшчэ даволі каштоўна
Справаздачнасць аб энергаспажыванні ў цэнтрах апрацоўкі дадзеных Карпаратыўныя каманды Высокі Забяспечвае больш шырокую агляднасць аперацый, астуджэнне і інфраструктура пачынаюць адлюстроўвацца тут
Поўная ацэнка жыццёвага цыклу Каманды па ўстойлівым развіцці, буйныя арганізацыі Высокі, часам балючы Найлепш падыходзіць для сур'ёзнага аналізу, бо ён выходзіць за рамкі самога чыпа... але ён павольны і нейкі звер

Ідэальнага метаду не існуе. Гэта крыху расчароўвае. Але ёсць розныя ўзроўні каштоўнасці. І звычайна нешта карыснае пераўзыходзіць ідэальную рэч. ( Google Cloud )

Галоўны фактар ​​не магія, а вылічэнні і абсталяванне 🖥️🔥

Калі людзі ўяўляюць сабе выкарыстанне энергіі штучным інтэлектам, яны часта ўяўляюць сабе саму мадэль як рэч, якая спажывае энергію. Але мадэль — гэта праграмная логіка, якая працуе на абсталяванні. Менавіта на абсталяванні адлюстроўваецца рахунак за электрычнасць. ( Strubell et al. , Google Cloud )

Найбуйнейшыя зменныя звычайна ўключаюць:

Высокааптымізаваная сістэма можа выконваць больш працы з меншымі выдаткамі энергіі. Нядбайная сістэма можа марнаваць электрычнасць з захапляльнай упэўненасцю. Вы ж ведаеце, як гэта бывае — некаторыя сістэмы падобныя на гоначныя машыны, некаторыя — на гандлёвыя каляскі з ракетамі, прылепленымі скотчам 🚀🛒

І так, памер мадэлі мае значэнне. Больш буйныя мадэлі, як правіла, патрабуюць больш памяці і больш вылічэнняў, асабліва пры генерацыі доўгіх вывадаў або апрацоўцы складаных разважанняў. Але прыёмы павышэння эфектыўнасці могуць змяніць карціну: ( Зялёны штучны інтэлект , квантаванне, пакетная праца і стратэгіі абслугоўвання ў выкарыстанні энергіі ў магістратуры па кіраўніцтве правам ).

Такім чынам, пытанне не толькі ў тым, «наколькі вялікая мадэль?», але і ў тым, «наколькі інтэлектуальна яна кіруецца?»

Навучанне супраць высноў - гэта розныя жывёлы 🐘🐇

Гэта падзел, які бянтэжыць амаль усіх.

Навучанне

Навучанне — гэта калі мадэль вывучае заканамернасці з велізарных набораў дадзеных. Гэта можа ўключаць у сябе працу многіх чыпаў на працягу доўгага часу, якія апрацоўваюць гіганцкія аб'ёмы дадзеных. Гэты этап спажывае шмат энергіі. Часам надзвычай шмат. ( Штрубел і інш. )

Энергія трэніровак залежыць ад:

  • памер мадэлі

  • памер набору дадзеных

  • колькасць трэніровачных прабежак

  • няўдалыя эксперыменты

  • тонкая налада пасаў

  • эфектыўнасць абсталявання

  • астуджэнне зверху ( Strubell et al. , Google Research )

І вось тое, што людзі часта прапускаюць — грамадскасць часта ўяўляе сабе адзін вялікі трэніровачны прабег, зроблены адзін раз, і ўсё. На практыцы распрацоўка можа ўключаць паўторныя прабегі, настройку, перанавучанне, ацэнку і ўсе празаічныя, але дарагія ітэрацыі вакол асноўнай падзеі. ( Strubell et al. , Green AI )

Выснова

Высновы — гэта мадэль, якая адказвае на рэальныя запыты карыстальнікаў. Адзін запыт можа здацца невялікім. Але высновы здараюцца зноў і зноў. Мільёны разоў. Часам мільярды. ( Google Research , DOE )

Энергія вываду расце з:

Такім чынам, трэніроўка — гэта землятрус. Выснова — гэта прыліў. Адно драматычнае, другое ўпартае, і абодва могуць крыху змяніць форму ўзбярэжжа. Гэта, магчыма, незвычайная метафара, але яна трымаецца разам... больш-менш.

Схаваныя выдаткі на энергію, пра якія людзі забываюць 😬

Калі хтосьці ацэньвае спажыванне энергіі штучным інтэлектам, гледзячы толькі на чып, ён звычайна недаацэньвае яго. Не заўсёды катастрафічна, але дастаткова, каб мець значэнне. ( Google Cloud , IEA )

Вось схаваныя часткі:

Ахаладжэнне ❄️

Серверы выпрацоўваюць цяпло. Магутнае абсталяванне штучнага інтэлекту выпрацоўвае яго шмат. Астуджэнне неабавязковае. Кожны ват, спажываны вылічэннямі, як правіла, прыцягвае да выкарыстання большай колькасці энергіі проста для падтрымання нармальных тэмператур. ( IEA , Google Cloud )

Перамяшчэнне дадзеных 🌐

Перамяшчэнне дадзеных паміж сховішчамі, памяццю і сеткамі таксама патрабуе энергіі. Штучны інтэлект не проста «думае». Ён таксама пастаянна перамешвае інфармацыю. ( IEA )

Прастойная ёмістасць 💤

Сістэмы, пабудаваныя для пікавай нагрузкі, не заўсёды працуюць у пікавыя перыяды. Бяздзейная або недастаткова выкарыстоўваная інфраструктура ўсё роўна спажывае электраэнергію. ( Google Cloud )

Рэзерваванне і надзейнасць 🧱

Рэзервовыя копіі, сістэмы пераключэння на іншыя сістэмы, дублікаты рэгіёнаў, узроўні бяспекі — усё гэта каштоўна, усё гэта частка больш шырокай энергетычнай карціны. ( IEA )

Захоўванне 📦

Дадзеныя навучання, убудаванні, журналы, кантрольныя кропкі, згенераваныя вынікі — усё гэта дзесьці захоўваецца. Сховішча, вядома, таннейшае за вылічэнні, але не бясплатнае з пункту гледжання энергіі. ( IEA )

Вось чаму на пытанне «Колькі энергіі спажывае штучны інтэлект?» нельга адказаць, гледзячы толькі на адну дыяграму эталонаў. Важны ўвесь стэк. ( Google Cloud , IEA )

Чаму адна падказка штучнага інтэлекту можа быць маленькай, а наступная — пачварай 📝➡️🎬

Не ўсе запыты аднолькавыя. Кароткі запыт на перапісанне сказа нельга параўнаць з просьбай аб працяглым аналізе, шматэтапным сеансе кадавання або стварэнні малюнкаў высокага разрознення. ( Google Cloud )

Рэчы, якія павялічваюць спажыванне энергіі на адно ўзаемадзеянне:

Лёгкі тэкставы адказ можа быць адносна танным. Гіганцкі мультымадальны працоўны працэс можа быць, ну, не танным. Гэта трохі падобна на заказ кавы супраць арганізацыі вяселля. Тэхнічна абодва лічацца «харчовым абслугоўваннем». Адно не падобна на другое ☕🎉

Гэта асабліва важна для каманд распрацоўшчыкаў прадуктаў. Функцыя, якая здаецца бяскрыўднай пры нізкім узроўні выкарыстання, можа стаць дарагой пры вялікім маштабе, калі кожны сеанс карыстальніка становіцца даўжэйшым, насычанейшым і больш вылічальным. ( DOE , Google Cloud )

Спажывецкі штучны інтэлект і карпаратыўны штучны інтэлект — гэта не адно і тое ж 🏢📱

Звычайны чалавек, які карыстаецца штучным інтэлектам, можа падумаць, што праблема ў яго выпадковых падказках. Звычайна гэта не тое, дзе знаходзіцца галоўная энергетычная гісторыя. ( Google Cloud )

Выкарыстанне прадпрыемствамі змяняе матэматыку:

  • тысячы супрацоўнікаў

  • заўсёды ўключаныя другія пілоты

  • аўтаматызаваная апрацоўка дакументаў

  • зводка выклікаў

  • аналіз выявы

  • інструменты для праверкі кода

  • пастаянна працуюць фонавыя агенты

Вось тут і пачынае вялікае значэнне сукупнае выкарыстанне энергіі. Не таму, што кожнае дзеянне з'яўляецца апакаліптычным, а таму, што паўтарэнне — гэта множнік. ( Міністэрства энергетыкі ЗША , МЭА )

У маіх уласных аглядах тэсціравання і працоўных працэсаў людзі здзіўляюцца менавіта гэтаму. Яны засяроджваюцца на назве мадэлі або яркай дэманстрацыі і ігнаруюць аб'ём. Аб'ём часта з'яўляецца сапраўдным рухавіком — або выратавальнай грацыяй, у залежнасці ад таго, выстаўляеце вы рахунак кліентам ці аплачваеце камунальныя паслугі 😅

Для спажыўцоў уплыў можа здавацца абстрактным. Для бізнесу ён вельмі хутка становіцца канкрэтным:

  • большыя рахункі за інфраструктуру

  • большы ціск для аптымізацыі

  • большая патрэба ў меншых мадэлях, дзе гэта магчыма

  • унутраная справаздачнасць па ўстойлівым развіцці

  • больш увагі да кэшавання і маршрутызацыі ( Google Cloud , Green AI )

Як скараціць спажыванне энергіі штучным інтэлектам, не адмаўляючыся ад штучнага інтэлекту 🌱

Гэта важна, бо мэта не ў тым, каб «спыніць выкарыстанне штучнага інтэлекту». Звычайна гэта нерэальна і нават неабавязкова. Лепшае выкарыстанне — гэта больш разумны шлях.

Вось найбольшыя рычагі:

1. Выкарыстоўвайце найменшую мадэль, якая выконвае працу

Не кожная задача патрабуе складанага варыянту. Больш лёгкая мадэль для класіфікацыі або абагульнення можа хутка скараціць адходы. ( Зялёны штучны інтэлект , Google Cloud )

2. Скараціце падказкі і вынікі

Падрабязныя ўваходныя дадзеныя — падрабязныя выхадныя. Дадатковыя токены азначаюць дадатковыя вылічэнні. Часам абрэзка запыту — гэта найпрасцейшая перамога. ( Квантаванне, пакетная апрацоўка і стратэгіі абслугоўвання ў LLM Energy Use , Google Cloud )

3. Кэшаваць паўторныя вынікі

Калі адзін і той жа запыт пастаянна з'яўляецца, не стварайце яго кожны раз перагенератар. Гэта амаль відавочна, але часам яго прапускаюць. ( Google Cloud )

4. Па магчымасці выконвайце пакетныя заданні

Выкананне задач пакетамі можа палепшыць выкарыстанне рэсурсаў і паменшыць страты. ( Квантаванне, пакетная праца і стратэгіі абслугоўвання ў выкарыстанні энергіі на ўзроўні магістратуры па кіраўніцтве правам ).

5. Інтэлектуальна маршрутызуйце задачы

Выкарыстоўвайце вялікія мадэлі толькі тады, калі зніжаецца ўпэўненасць або павялічваецца складанасць задачы. ( Зялёны штучны інтэлект , Google Cloud )

6. Аптымізацыя інфраструктуры

Лепшае планаванне, лепшае абсталяванне, лепшая стратэгія астуджэння — празаічныя рэчы, велізарная аддача. ( Google Cloud , Міністэрства энергетыкі ЗША )

7. Вымерайце, перш чым меркаваць

Шмат якія каманды думаюць, што ведаюць, куды сыходзіць энергія. Потым яны вымяраюць, і вось яна — дарагая частка знаходзіцца дзесьці ў іншым месцы. ( Google Cloud )

Праца па павышэнні эфектыўнасці — гэта не гламур. Яна рэдка атрымлівае апладысменты. Але гэта адзін з найлепшых спосабаў зрабіць штучны інтэлект больш даступным і больш апраўданым у маштабе 👍

Распаўсюджаныя міфы пра выкарыстанне электраэнергіі штучным інтэлектам 🚫

Давайце развеем некалькі міфаў, бо гэтая тэма хутка заблытваецца.

Міф 1 — кожны запыт да штучнага інтэлекту вельмі марнатраўны

Не абавязкова. Некаторыя сціплыя. Маштаб і тып задачы маюць вялікае значэнне. ( Google Cloud )

Міф 2 - Важныя толькі трэніроўкі

Не. Пры велізарным выкарыстанні з цягам часу высновы могуць дамінаваць. ( Google Research , DOE )

Міф 3 - Большая мадэль заўсёды азначае лепшы вынік

Часам так, часам абсалютна не. Шмат задач добра спраўляюцца з невялікімі сістэмамі. ( Зялёны штучны інтэлект )

Міф 4 — Спажыванне энергіі аўтаматычна роўнае ўздзеянню на вуглярод

Не зусім. Вуглярод таксама залежыць ад крыніцы энергіі. ( IEA , Strubell et al. )

Міф 5 - Вы можаце атрымаць адзін універсальны нумар для выкарыстання энергіі штучным інтэлектам

Нельга, прынамсі, не ў такой форме, каб яна заставалася значнай. Або можна, але гэта будзе настолькі ўсярэднена, што страціць каштоўнасць. ( IEA )

Вось чаму пытанне " Колькі энергіі выкарыстоўвае штучны інтэлект?" — разумнае, але толькі калі вы гатовыя да шматслойнага адказу, а не лозунга.

Дык... колькі энергіі насамрэч спажывае штучны інтэлект? 🤔

Вось абгрунтаваная выснова.

Штучны інтэлект выкарыстоўвае:

  • трохі , для некаторых простых задач

  • значна больш , для цяжкай мультымадальнай генерацыі

  • вельмі вялікая колькасць для навучання маштабных мадэляў

  • велізарная колькасць у цэлым , калі з цягам часу назапашваюцца мільёны запытаў ( Google Cloud , DOE )

Вось такая форма.

Галоўнае — не зводзіць усю праблему да адной страшнай лічбы ці аднаго пагардлівага паціскання плячыма. Спажыванне энергіі штучным інтэлектам рэальнае. Яно мае значэнне. Яго можна палепшыць. І лепшы спосаб гаварыць пра гэта — у кантэксце, а не тэатральна. ( IEA , Green AI )

Шмат публічных дыскусій вагаецца паміж крайнасцямі — з аднаго боку, «штучны інтэлект практычна бясплатны», з другога — «штучны інтэлект — гэта электрычны апакаліпсіс». Рэальнасць больш звычайная, што робіць яе больш інфарматыўнай. Гэта сістэмная праблема. Апаратнае забеспячэнне, праграмнае забеспячэнне, выкарыстанне, маштаб, астуджэнне, выбар дызайну. Празаічна? Трохі. Важна? Вельмі. ( IEA , Google Cloud )

Асноўныя высновы ⚡🧾

Калі вы пытаецеся: « Колькі энергіі спажывае штучны інтэлект?» , вось выснова:

  • Няма універсальнага ліку

  • Звычайна трэніроўкі спажываюць найбольш энергіі спачатку

  • Высновы становяцца асноўным фактарам у маштабе

  • Памер мадэлі, абсталяванне, нагрузка і астуджэнне — усё мае значэнне

  • Невялікія аптымізацыі могуць мець дзіўна вялікія вынікі

  • Найразумнейшае пытанне — не толькі «колькі», але і «для якой задачы, на якой сістэме, у якім маштабе?» ( IEA , Google Cloud )

Так, штучны інтэлект спажывае рэальную энергію. Дастаткова, каб заслужыць увагу. Дастаткова, каб апраўдаць лепшую інжынерыю. Але не ў мульцяшным, адналічбавым сэнсе.

Часта задаваныя пытанні

Колькі энергіі штучны інтэлект выкарыстоўвае для выканання аднаго задання?

Няма універсальнага ліку для аднаго запыту, бо спажыванне энергіі залежыць ад мадэлі, абсталявання, даўжыні запыту, даўжыні вываду і любога выкарыстання дадатковых інструментаў. Кароткі тэкставы адказ можа быць адносна сціплым, у той час як доўгая шматфункцыянальная задача можа спажываць прыкметна больш энергіі. Найбольш значны адказ — гэта не адна лічба ў загалоўку, а кантэкст, які акружае задачу.

Чаму ацэнкі выкарыстання энергіі штучным інтэлектам так моцна адрозніваюцца?

Ацэнкі адрозніваюцца, бо людзі часта параўноўваюць вельмі розныя рэчы пад адной назвай штучны інтэлект. Адна ацэнка можа апісваць лёгкі адказ чат-бота, а іншая — генерацыю малюнкаў, відэа або навучанне маштабнай мадэлі. Каб ацэнка была значнай, ёй патрэбен кантэкст, такі як тып задачы, памер мадэлі, абсталяванне, выкарыстанне, астуджэнне і месцазнаходжанне.

Ці з'яўляецца навучанне штучнага інтэлекту большым выдаткам энергіі, ці штодзённая яго эксплуатацыя?

Навучанне звычайна з'яўляецца вялікай падзеяй, якая патрабуе шмат энергіі на пачатку, бо яно можа ўключаць у сябе працу мноства чыпаў на працягу доўгага часу на велізарных наборах дадзеных. Выснова — гэта пастаянныя выдаткі, якія ўзнікаюць кожны раз, калі карыстальнікі адпраўляюць запыты, і ў вялікіх маштабах яны таксама могуць стаць вельмі вялікімі. На практыцы абодва маюць значэнне, хоць і па-рознаму.

Чаму адзін запыт штучнага інтэлекту спажывае значна больш энергіі, чым іншы?

Больш працяглыя кантэкстныя вокны, больш працяглыя выхады, паўторныя праходы разважанняў, выклікі інструментаў, этапы пошуку і шматмадальная генерацыя — усё гэта павялічвае спажыванне энергіі на адно ўзаемадзеянне. Мэты затрымкі таксама маюць значэнне, бо патрабаванні да больш хуткага рэагавання могуць знізіць эфектыўнасць. Невялікі запыт на перапісванне і працяглы працоўны працэс кадавання або стварэння малюнкаў проста непараўнальныя.

Якія схаваныя выдаткі на энергію людзі не ўлічваюць, калі пытаюцца, колькі энергіі спажывае штучны інтэлект?

Многія людзі засяроджваюцца толькі на чыпе, але не ўлічваюць астуджэнне, перамяшчэнне дадзеных, захоўванне дадзеных, ёмістасць у рэжыме чакання і сістэмы надзейнасці, такія як рэзервовае капіраванне або зоны пераключэння на збой. Гэтыя падтрымліваючыя ўзроўні могуць істотна змяніць агульны памер. Вось чаму адзін толькі бенчмарк рэдка адлюстроўвае поўную карціну энергаспажывання.

Ці заўсёды большая мадэль штучнага інтэлекту спажывае больш энергіі?

Большыя мадэлі звычайна патрабуюць больш вылічальнай магутнасці і памяці, асабліва для доўгіх або складаных вывадаў, таму яны часта спажываюць больш энергіі. Але большы памер не азначае аўтаматычна лепшы для кожнай задачы, і аптымізацыя можа значна змяніць сітуацыю. Меншыя спецыялізаваныя мадэлі, квантаванне, пакетная апрацоўка, кэшаванне і больш разумная маршрутызацыя — усё гэта можа павысіць эфектыўнасць.

Ці з'яўляецца спажывецкі штучны інтэлект асноўнай праблемай энергіі, ці большай праблемай з'яўляецца карпаратыўны штучны інтэлект?

Выпадковае выкарыстанне спажыўцамі можа назапашвацца, але больш шырокая гісторыя спажывання энергіі часта праяўляецца ў карпаратыўных разгортваннях. Пастаянна ўключаныя копілоты, апрацоўка дакументаў, падсумаванне выклікаў, праверка кода і фонавыя агенты ствараюць паўторны попыт сярод вялікіх баз карыстальнікаў. Праблема звычайна не столькі ў адным рэзкім дзеянні, колькі ў падтрыманні аб'ёму з цягам часу.

Колькі энергіі спажывае штучны інтэлект, калі ўлічыць цэнтры апрацоўкі дадзеных і астуджэнне?

Пасля ўліку больш шырокай сістэмы адказ становіцца больш рэалістычным і звычайна большым, чым паказваюць ацэнкі, заснаваныя толькі на чыпах. Цэнтрам апрацоўкі дадзеных патрэбна энергія не толькі для вылічэнняў, але і для астуджэння, працы ў сетцы, захоўвання дадзеных і падтрымання рэзервовых магутнасцей. Вось чаму праектаванне інфраструктуры і эфектыўнасць аб'ектаў маюць амаль гэтак жа вялікае значэнне, як і праектаванне мадэлі.

Які найбольш практычны спосаб вымярэння спажывання энергіі штучным інтэлектам у рэальным працоўным працэсе?

Найлепшы метад залежыць ад таго, хто праводзіць вымярэнні і з якой мэтай. Прыблізнае эмпірычнае правіла можа дапамагчы з хуткім параўнаннем, у той час як ватметры, тэлеметрыя графічнага працэсара, журналы выстаўлення рахункаў у воблаку і справаздачнасць цэнтра апрацоўкі дадзеных даюць паступова лепшае ўяўленне аб аперацыйнай дзейнасці. Для сур'ёзнай працы па ўстойлівым развіцці больш поўны погляд на жыццёвы цыкл яшчэ больш эфектыўны, хоць ён і больш павольны і патрабавальны.

Як каманды могуць скараціць спажыванне энергіі штучным інтэлектам, не адмаўляючыся ад карысных функцый штучнага інтэлекту?

Найбольшыя выгады звычайна атрымліваюцца ад выкарыстання самай маленькай мадэлі, якая ўсё яшчэ выконвае працу, скарачэння падказак і вывадаў, кэшавання паўтаральных вынікаў, пакетнай працы і маршрутызацыі толькі больш складаных задач да больш буйных мадэляў. Аптымізацыя інфраструктуры таксама мае значэнне, асабліва планаванне і эфектыўнасць абсталявання. У многіх канвеерах вымярэнне ў першую чаргу дапамагае прадухіліць аптымізацыю камандамі няправільных рэчаў.

Спасылкі

  1. Міжнароднае энергетычнае агенцтва (МЭА) - Попыт на энергію ад штучнага інтэлекту - iea.org

  2. Міністэрства энергетыкі ЗША (DOE) апублікавала новы даклад з ацэнкай росту попыту на электраэнергію ў цэнтрах апрацоўкі дадзеных - energy.gov

  3. Google Cloud - Вымярэнне ўздзеяння штучнага інтэлекту на навакольнае асяроддзе - cloud.google.com

  4. Google Research - Добрыя навіны пра вугляродны след ад машыннага навучання - research.google

  5. Google Research - Вугляродны след ад машыннага навучання спачатку выраўнуецца, а потым паменшыцца - research.google

  6. arXiv - Зялёны штучны інтэлект - arxiv.org

  7. arXiv - Штрубель і інш. - arxiv.org

  8. arXiv - Стратэгіі квантавання, пакетнай апрацоўкі і абслугоўвання ў выкарыстанні энергіі ў магістратуры па кіраўніцтве права - arxiv.org

Знайдзіце найноўшы штучны інтэлект у афіцыйнай краме памочнікаў штучнага інтэлекту

Пра нас

Назад да блога