Колькі вады выкарыстоўвае штучны інтэлект?

Б'юся аб заклад, вы чулі ўсё: ад «штучны інтэлект выпівае бутэльку вады кожныя некалькі пытанняў» да «гэта ў асноўным некалькі кропель». Праўда больш тонкая. Водны след штучнага інтэлекту моцна вагаецца ў залежнасці ад таго, дзе ён працуе, якой даўжыні ваша запыт і як цэнтр апрацоўкі дадзеных астуджае свае серверы. Так што так, галоўная лічба існуе, але яна хаваецца ў кучы агаворак.

Ніжэй я разгледжу зразумелыя лічбы, гатовыя да прыняцця рашэнняў, растлумачу, чаму ацэнкі разыходзяцца, і пакажу, як будаўнікі і звычайныя карыстальнікі могуць скараціць выдаткі на ваду, не ператвараючыся ў манахаў устойлівага развіцця.

Артыкулы, якія вам могуць спадабацца пасля гэтага:

🔗 Што такое набор дадзеных штучнага інтэлекту
Тлумачыць, як наборы дадзеных дазваляюць машыннаму навучанню і распрацоўцы мадэляў.

🔗 Як штучны інтэлект прадказвае тэндэнцыі
Паказвае, як штучны інтэлект аналізуе заканамернасці для прагназавання змен і будучых вынікаў.

🔗 Як вымераць прадукцыйнасць штучнага інтэлекту
Разбівае асноўныя паказчыкі для ацэнкі дакладнасці, хуткасці і надзейнасці.

🔗 Як размаўляць са штучным інтэлектам
Кіруе эфектыўнымі стратэгіямі падказак для паляпшэння яснасці, вынікаў і паслядоўнасці.

Колькі вады выкарыстоўвае штучны інтэлект? Хуткія лічбы, якія вам сапраўды патрэбныя 📏

• Тыповы дыяпазон на сённяшні дзень для аднаго запыту: ад менш чым мілілітраў для медыяннага тэкставага запыту на адной асноўнай сістэме да дзясяткаў мілілітраў для больш доўгага, больш вылічальнага адказу на іншай. Напрыклад, улік вытворчых дадзеных Google паведамляе, што медыянны тэкставы запыт складае ~0,26 мл (з улікам усіх накладных выдаткаў на абслугоўванне) [1]. Ацэнка жыццёвага цыклу Mistral ацэньвае адказ памочніка з 400 токенаў на ўзроўні ~45 мл (маргінальны вывад) [2]. Кантэкст і мадэль маюць вялікае значэнне.

• Навучанне мадэлі памежнага маштабу: можа дасягаць мільёнаў літраў , галоўным чынам ад астуджэння і вады, якая выкарыстоўваецца для вытворчасці электраэнергіі. У шырока цытаваным акадэмічным аналізе ацэньваецца ~5,4 мільёна літраў для навучання мадэлі класа GPT, у тым ліку ~700 000 літраў, спажываных на месцы для астуджэння, і сцвярджаецца неабходнасць разумнага планавання для зніжэння інтэнсіўнасці водазабеспячэння [3].

• Цэнтры апрацоўкі дадзеных у цэлым: буйныя аб'екты ў сярэднім апрацоўваюць сотні тысяч галонаў у дзень у буйных аператараў, з больш высокімі пікамі ў некаторых кампусах у залежнасці ад клімату і дызайну [5].

Будзем шчырымі: спачатку гэтыя лічбы здаюцца супярэчлівымі. Так і ёсць. І для гэтага ёсць важкія прычыны.

Паказчыкі выкарыстання вады з дапамогай штучнага інтэлекту ✅

Добры адказ на пытанне " Колькі вады выкарыстоўвае штучны інтэлект?" павінен паставіць адзнакі ў некалькіх пунктах:

1. Выразнасць межаў.
   Ці ўключае яна толькі для астуджэння на месцы , ці таксама ваду па-за месцам электрастанцыямі для выпрацоўкі электраэнергіі? У найлепшай практыцы адрозніваецца забор вады ад спажывання вады і ахопліваюцца 1-2-3, падобна ўліку вугляроду [3].

2. Адчувальнасць да месцазнаходжання. Кошт
   вады на кВт⋅г адрозніваецца ў залежнасці ад рэгіёна і камбінацыі электрасеткі, таму адзін і той жа запыт можа мець розны ўплыў на ваду ў залежнасці ад таго, дзе ён падаецца — ключавая прычына, па якой у літаратуры рэкамендуецца планаванне з улікам часу і месца [3].

3. Рэалістычнасць рабочай нагрузкі
   Ці адлюстроўвае лічба сярэднія вытворчыя запыты , у тым ліку прастой і накладныя выдаткі цэнтра апрацоўкі дадзеных, ці толькі пікавыя нагрузкі паскаральніка? Google робіць акцэнт на ўліку ўсёй сістэмы (прастой, працэсары/DRAM і накладныя выдаткі цэнтра апрацоўкі дадзеных), а не толькі на матэматыку TPU [1].

4. Тэхналогія астуджэння
   Выпарнае астуджэнне, вадкаснае астуджэнне з замкнёным цыклам, паветранае астуджэнне і новыя непасрэднага выкарыстання вады ў чыпе кардынальна змяняюць інтэнсіўнасць водазабеспячэння. Microsoft распрацоўвае распрацоўкі, прызначаныя для ліквідацыі выкарыстання астуджальнай вады для некаторых аб'ектаў наступнага пакалення [4].

5. Час сутак і сезон.
   Спякота, вільготнасць і ўмовы электрасеткі ўплываюць на эфектыўнасць выкарыстання вады ў рэальным жыцці; адно ўплывовае даследаванне прапануе планаваць буйныя работы на час і там, дзе інтэнсіўнасць водазабеспячэння ніжэйшая [3].

Забор вады супраць спажывання вады, тлумачэнне 💡

• Забор = вада, забраная з рэк, азёр або ваданосных гарызонтаў (частковая вада вяртаецца).

• Спажыванне = вада, якая не вяртаецца , бо выпараецца або ўключана ў працэсы/прадукты.

Градзірні ў асноўным спажываюць ваду шляхам выпарэння. Вытворчасць электраэнергіі можа спажываць вялікія аб'ёмы (часам спажываючы частку вады), у залежнасці ад устаноўкі і метаду астуджэння. Надзейныя паказчыкі колькасці вады, якія паведамляе штучны інтэлект [3].

Куды ідзе вада ў штучным інтэлекце: тры вёдры 🪣

1. Сфера прымянення 1 — астуджэнне на месцы.
   Бачная частка: вада выпараецца ў самым цэнтры апрацоўкі дадзеных. Такія варыянты канструкцыі, як выпарэнне супраць паветра або замкнёны цыкл вадкасці, усталёўваюць базавы ўзровень [5].

2. Сфера 2 — вытворчасць электраэнергіі.
   Кожны кВт·г можа несці схаваную водную метку; склад і месцазнаходжанне вызначаюць сігнал літраў на кВт·г, які атрымлівае ваша рабочая нагрузка [3].

3. Сфера 3 —
   ланцужок паставак Вытворчасць мікрасхем залежыць ад выкарыстання звышчыстай вады. Вы не ўбачыце гэтага ў метрыцы «на заданне», калі мяжа відавочна не ўключае ўвасобленыя ўздзеянні (напрыклад, поўны LCA) [2][3].

Пастаўшчыкі ў лічбах, з нюансамі 🧮

• Запыты Google Gemini.
  Метад абслугоўвання з поўным стэкам (уключаючы час чакання і накладныя выдаткі на аб'ект). Сярэдняе значэнне тэкставага запыту складае ~0,26 мл вады і ~0,24 Вт·г энергіі; лічбы адлюстроўваюць вытворчы трафік і ўсеабдымныя межы [1].

• Жыццёвы цыкл Mistral Large 2.
  Рэдкі незалежны аналіз жыццёвага цыклу (з ADEME/Carbone 4) паказвае ~281 000 м³ для навучання + ранняга выкарыстання і маргінал высновы ~45 мл для з 400 токенамі [2].

• Амбіцыі Microsoft па астуджэнні без вады
  Цэнтры апрацоўкі дадзеных наступнага пакалення распрацаваны такім чынам, каб не спажываць ваду для астуджэння , абапіраючыся на падыходы непасрэднага астуджэння да чыпа; для адміністрацыйнага выкарыстання ўсё яшчэ патрабуецца некаторая колькасць вады [4].

• Агульны маштаб цэнтраў апрацоўкі дадзеных
  Буйныя аператары публічна паведамляюць пра сотні тысяч галонаў у дзень у сярэднім на асобных пляцоўках; клімат і дызайн могуць паўплываць на гэтыя лічбы ўверх або ўніз [5].

• Ранейшы акадэмічны базавы ўзровень.
  У асноватворным аналізе «смагальнага штучнага інтэлекту» ацэньваліся мільёны літраў для навучання мадэляў класа GPT, і 10–50 сярэдніх адказаў маглі б прыблізна эквівалентныя аб'ёмам 500 мл — гэта моцна залежыць ад таго, калі/дзе яны выконваюцца [3].

Чаму ацэнкі так разыходзяцца 🤷

• Розныя межы
  Некаторыя лічбы ўлічваюць толькі астуджэнне на месцы ; іншыя дадаюць электрычнасць, ваду ; LCA могуць улічваць вытворчасць чыпсаў , яблыкі, апельсіны і фруктовы салата [2][3].

• Розныя нагрузкі
  Кароткі тэкставы запыт — гэта не доўгі мультымадальны/кодавы выкананне; пакетная апрацоўка, паралельнасць і мэты затрымкі змяняюць выкарыстанне [1][2].

• Розныя кліматычныя ўмовы і сеткі
  Выпарнае астуджэнне ў гарачым, засушлівым рэгіёне ≠ паветрана-вадкаснае астуджэнне ў халодным, вільготным. Інтэнсіўнасць вады ў сетцы моцна вар'іруецца [3].

• Метадалогіі пастаўшчыкоў
  Google апублікаваў сістэмны метад абслугоўвання; Mistral апублікаваў фармальны LCA. Іншыя прапануюць кропкавыя ацэнкі з дапамогай разрэджаных метадаў. Гучная «адну пятнаццатую чайную лыжку» на запыт трапіла ў загалоўкі, але без падрабязнай інфармацыі пра межы гэта нельга параўноўваць [1][3].

• Рухомая мэта
  Астуджэнне хутка развіваецца. Microsoft укараняе сістэмы безводнага астуджэння ; іх укараненне скароціць спажыванне вады на аб'ектах, нават калі электрычнасць вышэй па плыні ўсё яшчэ мае сігнал вады [4].

Што вы можаце зрабіць сёння, каб паменшыць водны след штучнага інтэлекту 🌱

1. Памер мадэлі павінен быць правільным
   Меншыя мадэлі, аптымізаваныя пад канкрэтныя задачы, часта адпавядаюць дакладнасці, спажываючы пры гэтым менш вылічальных рэсурсаў. Ацэнка Mistral падкрэслівае моцную карэляцыю паміж памерам і займанай плошчай, а таксама публікуе паказчыкі маргінальных высноў, каб вы маглі разважаць пра кампрамісы [2].

2. Выбірайце рэгіёны з разумным выкарыстаннем вады.
   Аддавайце перавагу рэгіёнам з больш прахалодным кліматам, эфектыўным астуджэннем і сеткамі з меншай інтэнсіўнасцю водазабеспячэння на кВт·г; праца «смагальнага штучнага інтэлекту» паказвае, што з улікам часу і месца дапамагае [3].

3. Зрушэнне нагрузкі ў часе.
   Плануйце навучанне/інтэнсіўны пакетны аналіз для эфектыўных гадзін выкарыстання вады (больш прахалодныя ночы, спрыяльныя ўмовы электрасеткі) [3].

4. Спытайце ў пастаўшчыка празрыстыя паказчыкі:
   попыт на ваду па кожным запыце , вызначэнне межаў і тое, ці ўключаюць лічбы прастой і накладныя выдаткі на аб'екты. Палітычныя групы выступаюць за абавязковае раскрыццё інфармацыі, каб зрабіць магчымым параўнанне фактычных паказчыкаў [3].

5. Тэхналогія астуджэння мае значэнне.
   Калі вы выкарыстоўваеце абсталяванне, ацаніце астуджэнне з замкнёным контурам/непасрэдным пераключэннем на чып ; калі вы выкарыстоўваеце воблака, аддайце перавагу рэгіёнам/пастаўшчыкам, якія ўкладаюць сродкі ў канструкцыі з водным асвятленнем [4][5].

6. Выкарыстоўвайце шэрыя воды і паўторна выкарыстоўвайце іх.
   Многія кампусы могуць замяніць непітныя крыніцы або перапрацоўваць ваду ў межах цыклаў; буйныя аператары апісваюць балансаванне крыніц вады і варыянтаў астуджэння, каб мінімізаваць чысты ўплыў [5].

Кароткі прыклад для рэалізацыі (не ўніверсальнае правіла): перанос начнога навучальнага месца з гарачага, сухога рэгіёна ў сярэдзіне лета ў больш прахалодны, больш вільготны рэгіён вясной — і яго правядзенне ў непікавыя, больш прахалодныя гадзіны — можа змяніць як спажыванне вады на месцы па-за межамі аб'екта (сеткі). Менавіта такія вынікі можа даць практычнае, нізкадраматычнае планаванне [3].

Параўнальная табліца: хуткі выбар для зніжэння спажывання вады штучным інтэлектам 🧰

(«Кошт» задуманы як мяккі — варыянты разгортвання адрозніваюцца.)

Паглыбленае апусканне: барабанны бой палітыкі становіцца ўсё гучнейшым 🥁

Інжынерныя арганізацыі заклікаюць да абавязковага раскрыцця інфармацыі аб спажыванні энергіі і вады ў цэнтрах апрацоўкі дадзеных, каб пакупнікі і супольнасці маглі ацаніць выдаткі і выгады. Рэкамендацыі ўключаюць вызначэнне аб'ёму работ, справаздачнасць на ўзроўні пляцоўкі і рэкамендацыі па выбары месца, бо без параўнальных паказчыкаў, якія ўлічваюць месцазнаходжанне, мы спрачаемся ў цемры [3].

Паглыбленае агляданне: цэнтры апрацоўкі дадзеных не аднолькава выкарыстоўваюць трафік 🚰

Існуе ўстойлівы міф, што «паветранае астуджэнне не выкарыстоўвае ваду». Не зусім. Сістэмы, якія выкарыстоўваюць шмат паветра, часта патрабуюць больш электраэнергіі , якая ў многіх рэгіёнах нясе схаваную ваду з сеткі; і наадварот, вадзяное астуджэнне можа скараціць спажыванне энергіі і выкіды за кошт вады на месцы. Буйныя аператары відавочна ўраўнаважваюць гэтыя кампрамісы на кожным аб'екце асобна [1][5].

Глыбокае апусканне: хуткая праверка рэальнасці вірусных сцвярджэнняў 🧪

Магчыма, вы бачылі смелыя сцвярджэнні, што адно заданне эквівалентна «бутэльцы вады» або, з іншага боку, «усяго некалькім кроплям». Лепшая пастава: пакора з матэматыкай . Сённяшнія праўдападобныя падстаўкі для кніг складаюць ~0,26 мл для медыяннага задання аб вытворчасці з поўнымі накладнымі выдаткамі на абслугоўванне [1] і ~45 мл для адказу памочніка з 400 токенамі (памежны вывад) [2]. Шырока распаўсюджанае «адна пятнаццатая чайнай лыжкі» не мае публічнай мяжы/метаду; разглядайце яго як прагноз надвор'я без горада [1][3].

Міні-FAQ: Колькі вады выкарыстоўвае штучны інтэлект? зноў жа, простай мовай 🗣️

• Дык што ж мне сказаць на сустрэчы?
  «Паводле падказкі, колькасць напояў можа вар'іравацца ад кропель да некалькіх глыткоў у залежнасці ад мадэлі, працягласці і месца правядзення. Для трэніровак патрэбныя лужыны , а не басейны». Затым прывядзіце адзін ці два прыклады вышэй.

• Ці сапраўды штучны інтэлект дрэнны?
  Ён унікальна сканцэнтраваны : магутныя чыпы, размешчаныя разам, ствараюць вялікія нагрузкі на астуджэнне. Але ў цэнтрах апрацоўкі дадзеных найбольш эфектыўныя тэхналогіі, як правіла, з'яўляюцца першымі [1][4].

• Што, калі мы проста пераключым усё на паветранае астуджэнне?
  Можна скараціць спажыванне на месцы , але павялічыць спажыванне па-за межамі аб'екта за кошт электрычнасці. Дасведчаныя аператары ўзважваюць абодва фактары [1][5].

• А як наконт тэхналогій будучыні?
  Распрацоўкі, якія дазваляюць пазбегнуць астуджэння вады ў вялікіх маштабах, стануць пераломным момантам для Scope 1. Некаторыя аператары пераходзяць у гэтым кірунку; пакуль электрасеткі не зменяцца, сігнал вады ўсё яшчэ захоўваецца [4].

Заключныя заўвагі - Занадта доўга, я не чытаў 🌊

• На адзін запыт: ад менш чым мілілітраў да дзясяткаў мілілітраў , у залежнасці ад мадэлі, даўжыні запыту і месца яго выканання. Сярэдні запыт ~0,26 мл на адным буйным стэку; ~45 мл для адказу з 400 токенамі на іншым [1][2].

• Навучанне: мільёны літраў для мадэляў на мяжы, што робіць планаванне, размяшчэнне і тэхналогіі астуджэння крытычна важнымі [3].

• Што рабіць: мадэлі патрэбнага памеру, выбіраць рэгіёны з улікам наяўнасці вады, пераносіць цяжкія работы на больш прахалодныя гадзіны, аддаваць перавагу пастаўшчыкам, якія маюць добрую прадукцыйнасць у дызайне з улікам наяўнасці вады, і патрабаваць празрыстых межаў [1][3][4][5].

Трохі недасканалая метафара напрыканцы: штучны інтэлект — гэта аркестр, які прагне смагу — мелодыя вылічваецца, але барабаны астываюць і падаюць ваду. Наладзьце гурт, і публіка ўсё роўна пачуе музыку без уключэння разбрызгівальнікаў. 🎻💦

Спасылкі

1. Блог Google Cloud - Колькі энергіі спажывае штучны інтэлект Google? Мы падлічылі (метадалогія + ~0,26 мл медыяннага запыту, поўныя накладныя выдаткі на абслугоўванне). Спасылка
   (Тэхнічны дакумент у фармаце PDF: Вымярэнне ўздзеяння штучнага інтэлекту на навакольнае асяроддзе ў маштабе Google ). Спасылка

2. Mistral AI — наш унёсак у глабальны экалагічны стандарт для штучнага інтэлекту (LCA з ADEME/Carbone 4; ~281 000 м³ навучання + ранняе выкарыстанне; ~45 мл на 400 токенаў , маргінальны вывад). Спасылка

3. Лі і інш. - Як зрабіць штучны інтэлект менш «пражным»: раскрыццё і вырашэнне праблемы сакрэтнага воднага следу мадэляў штучнага інтэлекту (навучанне мільёнаў літраў , з улікам часу і месца , адлік вады ў параўнанні са спажываннем). Спасылка

4. Microsoft — Цэнтры апрацоўкі дадзеных наступнага пакалення не спажываюць вады для астуджэння (прамыя ўводы ў чып, накіраваныя на астуджэнне без вады на пэўных аб'ектах). Спасылка

5. Цэнтры апрацоўкі дадзеных Google — устойлівая праца (кампрамісы ў астуджэнні для кожнага аб'екта; справаздачнасць і паўторнае выкарыстанне, у тым ліку рэгенераваных/шэрых вод; тыповыя парадкі штодзённага спажывання на ўзроўні аб'екта). Спасылка

Знайдзіце найноўшы штучны інтэлект у афіцыйнай краме памочнікаў штучнага інтэлекту

Пра нас