Калі вы калі-небудзь карысталіся інструментамі штучнага інтэлекту і задаваліся пытаннем, дзе адбываецца сапраўдная магія — ад хуткай налады да вытворчасці з маніторынгам, — то вы пастаянна чуеце пра гэта. Vertex AI ад Google аб'ядноўвае гульнявыя пляцоўкі мадэляў, MLOps, падключэнне да дадзеных і вектарны пошук у адным месцы карпаратыўнага ўзроўню. Пачніце з дробязяў, а потым маштабуйце. Дзіўна рэдка можна знайсці абодва пад адным дахам.
Ніжэй прыведзены строгі агляд. Мы адкажам на простае пытанне: што такое Google Vertex AI? — а таксама пакажам, як ён падыходзіць да вашага стэку, што паспрабаваць спачатку, як паводзяць сябе выдаткі і калі альтэрнатывы маюць больш сэнсу. Прышпіліце рамяні. Тут шмат чаго ёсць, але шлях прасцейшы, чым здаецца. 🙂
Артыкулы, якія вам могуць спадабацца пасля гэтага:
🔗 Што такое трэнер па штучным інтэлекце
Тлумачыць, як трэнеры штучнага інтэлекту ўдасканальваюць мадэлі з дапамогай зваротнай сувязі і маркіроўкі ад чалавека.
🔗 Што такое арбітраж штучнага інтэлекту: праўда, якая стаіць за модным словам
Разбірае арбітраж штучнага інтэлекту, яго бізнес-мадэль і рынкавыя наступствы.
🔗 Што такое сімвалічны штучны інтэлект: усё, што вам трэба ведаць
Ахоплівае лагічнае мысленне сімвалічнага штучнага інтэлекту і яго адрозненні ад машыннага навучання.
🔗 Якая мова праграмавання выкарыстоўваецца для штучнага інтэлекту
Параўноўвае Python, R і іншыя мовы праграмавання для распрацоўкі і даследаванняў штучнага інтэлекту.
🔗 Што такое штучны інтэлект як паслуга
Тлумачыць платформы AIaaS, іх перавагі і тое, як бізнес выкарыстоўвае воблачныя інструменты штучнага інтэлекту.
Што такое штучны інтэлект Google Vertex? 🚀
Google Vertex AI — гэта цалкам кіраваная, уніфікаваная платформа ў Google Cloud для стварэння, тэставання, разгортвання і кіравання сістэмамі штучнага інтэлекту, якая ахоплівае як класічнае машыннае навучанне, так і сучасны генератыўны штучны інтэлект. Яна спалучае ў сабе студыю мадэляў, інструменты агентаў, канвееры, нататнікі, рэестры, маніторынг, вектарны пошук і цесную інтэграцыю з сэрвісамі дадзеных Google Cloud [1].
Проста кажучы: гэта месца, дзе вы ствараеце прататыпы з базавымі мадэлямі, наладжваеце іх, разгортваеце для абароненых канчатковых кропак, аўтаматызуеце з дапамогай канвеераў і кантралюеце і кіруеце ўсім. Найважнейшае, што ўсё гэта робіцца ў адным месцы, што важней, чым здаецца ў першы дзень [1].
Хуткі прыклад з рэальнага свету: каманды часта малююць заданні ў студыі, ствараюць мінімальны нататнік для тэставання ўводу/вываду на рэальных дадзеных, а затым пераўтвараюць гэтыя рэсурсы ў зарэгістраваную мадэль, канчатковую кропку і просты канвеер. Другі тыдзень звычайна прысвечаны маніторынгу і абвесткам. Галоўнае — не гераізм, а паўтаральнасць.
Што робіць штучны інтэлект Google Vertex цудоўным ✅
-
Адзін дах для ўсяго жыццёвага цыклу — стварэнне прататыпа ў студыі, рэгістрацыя версій, разгортванне для пакетнай працы або ў рэжыме рэальнага часу, а затым маніторынг зруху і праблем. Менш звязвальнага кода. Менш укладак. Больш сну [1].
-
Мадэлі Model Garden + Gemini — адкрывайце, наладжвайце і разгортвайце мадэлі ад Google і партнёраў, у тым ліку найноўшае сямейства Gemini, для тэкставай і мультымадальнай працы [1].
-
Канструктар агентаў — стварайце арыентаваныя на задачы шматэтапныя агенты, якія могуць арганізоўваць інструменты і дадзеныя з падтрымкай ацэнкі і кіраваным асяроддзем выканання [2].
-
Канвееры для надзейнасці — бессерверная аркестрацыя для паўтаральнай падрыхтоўкі, ацэнкі, налады і разгортвання. Вы падзякуеце сабе, калі адбудзецца трэцяе перападрыхтоўка [1].
-
Вектарны пошук у вялікіх маштабах — высокамаштабны вектарны пошук з нізкай затрымкай для RAG, рэкамендацый і семантычнага пошуку, пабудаваны на інфраструктуры прадукцыйнага ўзроўню Google [3].
-
Кіраванне функцыямі з дапамогай BigQuery - захоўвайце дадзеныя аб функцыях у BigQuery і абслугоўвайце функцыі онлайн праз Vertex AI Feature Store без дубліравання афлайн-сховішча [4].
-
Наўтбукі Workbench — кіраваныя асяроддзі Jupyter, падлучаныя да сэрвісаў Google Cloud (BigQuery, Cloud Storage і г.д.) [1].
-
Адказныя варыянты штучнага інтэлекту — інструменты бяспекі плюс з нулявым захоўваннем дадзеных (пры адпаведнай канфігурацыі) для генератыўных рабочых нагрузак [5].
Асноўныя часткі, да якіх вы сапраўды дакранецеся 🧩
1) Vertex AI Studio — месца, дзе растуць падказкі 🌱
Прайгравайце, ацэньвайце і наладжвайце базавыя мадэлі ў карыстальніцкім інтэрфейсе. Выдатна падыходзіць для хуткіх ітэрацый, паўторнага выкарыстання падказак і перадачы ў прадукцыю, калі нешта «пстрыкне» [1].
2) Сад мадэляў - ваш каталог мадэляў 🍃
Цэнтралізаваная бібліятэка мадэляў Google і партнёраў. Праглядзіце, наладзьце і разгарніце ў некалькі клікаў — сапраўдны адпраўны пункт, а не пошук скарбаў [1].
3) Канструктар агентаў - для надзейнай аўтаматызацыі 🤝
Па меры таго, як агенты пераходзяць ад дэманстрацый да рэальнай працы, вам патрэбныя інструменты, падрыхтоўка і аркестроўка. Agent Builder забяспечвае падрыхтоўчыя матэрыялы (сесіі, банк памяці, убудаваныя інструменты, ацэнкі), каб шматагентны вопыт не разбураўся з-за рэальнага беспарадку [2].
4) Трубаправоды - бо вы ўсё роўна будзеце паўтарацца 🔁
Аўтаматызуйце працоўныя працэсы машыннага навучання і штучнага інтэлекту з дапамогай бессервернага аркестратара. Падтрымлівае адсочванне артэфактаў і прайгравальныя запускі — уявіце сабе гэта як бесперапынную інтэграцыю (БІ) для вашых мадэляў [1].
5) Workbench - кіраваныя нататнікі без лішняга лішняга 📓
Стварыце бяспечныя асяроддзі JupyterLab з лёгкім доступам да BigQuery, воблачнага сховішча і іншага. Зручна для даследавання, распрацоўкі функцый і кантраляваных эксперыментаў [1].
6) Рэестр мадэляў — кіраванне версіямі, якое застаецца актуальным 🗃️
Адсочвайце мадэлі, версіі, паходжанне і разгортвайце непасрэдна на канчатковых кропках. Рэестр значна спрашчае перадачу задач інжынерам [1].
7) Вектарны пошук - RAG, які не заікаецца 🧭
Маштабуйце семантычны пошук з дапамогай інфраструктуры вектара вытворчасці Google — карысна для чатаў, семантычнага пошуку і рэкамендацый, дзе затрымка бачная карыстальніку [3].
8) Крама функцый — захавайце BigQuery як крыніцу праўды 🗂️
Кіруйце і абслугоўвайце функцыі ў рэжыме анлайн з дадзеных, якія захоўваюцца ў BigQuery. Менш капіявання, менш заданняў сінхранізацыі, большая дакладнасць [4].
9) Маніторынг мадэлі - давярай, але правярай 📈
Плануйце праверкі на зрушэнне, усталёўвайце абвесткі і сачыце за якасцю прадукцыі. Пры кожнай хвіліне змены руху вам гэта спатрэбіцца [1].
Як гэта ўпісваецца ў ваш стэк дадзеных 🧵
-
BigQuery — навучанне з выкарыстаннем дадзеных, адпраўка пакетных прагнозаў назад у табліцы і перадача прагнозаў у аналітыку або актывацыю ніжэй па плыні [1][4].
-
Воблачнае сховішча — захоўванне набораў дадзеных, артэфактаў і вынікаў мадэлявання без перавынаходніцтва блоб-слоя [1].
-
Паток дадзеных і сябры - запускайце кіраваную апрацоўку дадзеных унутры канвеераў для папярэдняй апрацоўкі, узбагачэння або струменевага вываду [1].
-
Канцавыя кропкі або пакетная апрацоўка — разгортвайце канчатковыя кропкі ў рэжыме рэальнага часу для праграм і агентаў або запускайце пакетныя заданні для ацэнкі цэлых табліц — вы, верагодна, будзеце выкарыстоўваць абодва [1].
Распаўсюджаныя выпадкі выкарыстання, якія сапраўды прыносяць плён 🎯
-
Чат, другія пілоты і агенты — з улікам вашых дадзеных, выкарыстання інструментаў і шматэтапных працэсаў. Канструктар агентаў распрацаваны для надзейнасці, а не толькі для навізны [2].
-
RAG і семантычны пошук — спалучайце вектарны пошук з Gemini, каб адказваць на пытанні, выкарыстоўваючы ваш уласны кантэнт. Хуткасць мае большае значэнне, чым мы ўяўляем [3].
-
Прагнастычнае машыннае навучанне — навучанне таблічных або візуальных мадэляў, разгортванне да канчатковай кропкі, маніторынг зруху, перанавучанне з дапамогай канвеераў пры перасячэнні парогаў. Класіка, але крытычна важная [1].
-
Актывацыя аналітыкі — запіс прагнозаў у BigQuery, стварэнне аўдыторый і карэкціроўка кампаній або рашэнняў аб прадуктах. Прыемны цыкл, калі маркетынг сустракаецца з навукай аб дадзеных [1][4].
Параўнальная табліца - Vertex AI супраць папулярных альтэрнатыў 📊
Кароткі агляд. Злёгку скептычнае меркаванне. Майце на ўвазе, што дакладныя магчымасці і цэны адрозніваюцца ў залежнасці ад паслугі і рэгіёна.
| Платформа | Найлепшая аўдыторыя | Чаму гэта працуе |
|---|---|---|
| Вяршынны штучны інтэлект | Каманды ў Google Cloud, спалучэнне штучнага інтэлекту і машыннага навучання | Уніфікаваная студыя, канвееры, рэестр, вектарны пошук і моцныя сувязі з BigQuery [1]. |
| AWS SageMaker | Арганізацыі, якія выкарыстоўваюць AWS у першую чаргу і маюць патрэбу ў глыбокіх інструментах машыннага навучання | Паспяховы сэрвіс машыннага навучання з поўным жыццёвым цыклам і шырокімі магчымасцямі навучання і разгортвання. |
| Azure ML | Карпаратыўныя ІТ-сістэмы, адаптаваныя да Microsoft | Інтэграваны жыццёвы цыкл машыннага навучання, дызайнерскі інтэрфейс і кіраванне ў Azure. |
| ML з дапамогай цэглы даных | Каманды Lakehouse, патокі з вялікай колькасцю нататнікаў | Моцныя працоўныя працэсы, арыентаваныя на даныя, і магчымасці машыннага навучання ў прадукцыйным асяроддзі. |
Так, фармулёўка няроўная — рэальныя сталы часам такія.
Кошт простай мовай 💸
У асноўным вы плаціце за тры рэчы:
-
Мадэль выкарыстання для генератыўных выклікаў з цаной у залежнасці ад нагрузкі і класа выкарыстання.
-
Вылічэнні для карыстальніцкіх заданняў па навучанні і наладцы.
-
Абслугоўванне для анлайн-канцавых кропак або пакетных заданняў.
Каб даведацца дакладныя лічбы і апошнія змены, праверце афіцыйныя старонкі з цэнамі на Vertex AI і яго генератыўныя прапановы. Парада, за якую вы будзеце ўдзячныя сабе пазней: праглядзіце варыянты забеспячэння і квоты для канцавых кропак Studio ў параўнанні з прадукцыйнымі, перш чым выпускаць што-небудзь цяжкае [1][5].
Бяспека, кіраванне і адказны штучны інтэлект 🛡️
Vertex AI прапануе кіраўніцтва па адказным выкарыстанні штучнага інтэлекту і інструменты бяспекі, а таксама шляхі канфігурацыі для дасягнення нулявога захавання дадзеных для пэўных генератыўных працоўных нагрузак (напрыклад, шляхам адключэння кэшавання дадзеных і адмовы ад пэўных журналаў, дзе гэта дастасавальна) [5]. Спалучыце гэта з доступам на аснове роляў, прыватнымі сеткамі і журналамі аўдыту для зборак, якія адпавядаюць патрабаванням [1].
Калі Vertex AI ідэальны, а калі перабольшаны 🧠
-
Ідэальна падыходзіць, калі вам патрэбна адно асяроддзе для штучнага інтэлекту (AI) і машыннага навучання (ML), цесная інтэграцыя з BigQuery і працоўны шлях, які ўключае канвееры, рэестр і маніторынг. Калі ваша каманда працуе як у галіне навукі аб дадзеных, так і ў галіне прыкладной інжынерыі, агульная паверхня дапаможа.
-
Залішняя кампраміснасць, калі вам патрэбны толькі лёгкі выклік мадэлі або аднамэтавы прататып, які не патрабуе кіравання, перанавучання або маніторынгу. У такіх выпадках пакуль можа быць дастаткова больш простай паверхні API.
Будзем шчырымі: большасць прататыпаў альбо паміраюць, альбо ў іх растуць іклы. Vertex AI спраўляецца з другім выпадкам.
Хуткі старт — 10-хвілінная дэгустацыя ⏱️
-
Адкрыйце Vertex AI Studio для стварэння прататыпа з мадэллю і захавайце некалькі падказак, якія вам падабаюцца. Дадайце рэальны тэкст і выявы [1].
-
Зрабіце сваю найлепшую падказку мінімалістычнай праграмай або нататнікам з Workbench . Прыгожа і лаканічна [1].
-
Зарэгіструйце мадэль падтрымкі праграмы або настроены рэсурс у рэестры мадэляў , каб не брацца з безназоўнымі артэфактамі [1].
-
Стварыце канвеер , які загружае дадзеныя, ацэньвае вынікі і разгортвае новую версію пад псеўданімам. Паўтаральнасць перамагае гераізм [1].
-
Дадайце маніторынг , каб адсочваць дрэйф, і ўсталюйце базавыя абвесткі. Ваша будучае «я» купіць вам за гэта каву [1].
Неабавязкова, але разумна: калі ваш выпадак выкарыстання — гэта пошукавы ці балбатлівы варыянт, дадайце вектарны пошук і зазямленне з першага дня. Гэта розніца паміж прыемным і нечакана карысным [3].
Што такое Google Vertex AI? - кароткая версія 🧾
Што такое Google Vertex AI? Гэта універсальная платформа Google Cloud для праектавання, разгортвання і кіравання сістэмамі штучнага інтэлекту — ад запыту да вытворчасці — з убудаванымі інструментамі для агентаў, канвеераў, вектарнага пошуку, нататнікаў, рэестраў і маніторынгу. Яна распрацавана такім чынам, каб дапамагчы камандам дасягнуць поспеху [1].
Альтэрнатывы з першага погляду — выбар правільнай паласы 🛣️
Калі вы ўжо глыбока разабраліся ў AWS, SageMaker будзе здавацца вам родным. Крамы Azure часта аддаюць перавагу Azure ML . Калі ваша каманда жыве ў нататніках і азёрных дамах, Databricks ML выдатна падыдзе. Ні адзін з гэтых варыянтаў не памыляецца — звычайна вырашаюць вашы патрабаванні да гравітацыі дадзеных і кіравання.
Часта задаваныя пытанні - хуткі агонь 🧨
-
Ці Vertex AI прызначаны толькі для генератыўнага штучнага інтэлекту? No-Vertex AI таксама ахоплівае класічнае навучанне машыннаму навучанню і абслугоўвае з дапамогай функцый MLOps для спецыялістаў па апрацоўцы дадзеных і інжынераў машыннага навучання [1].
-
Ці магу я захаваць BigQuery у якасці асноўнага сховішча? Так, выкарыстоўвайце Feature Store для захоўвання дадзеных функцый у BigQuery і абслугоўвання іх у інтэрнэце без дубліравання афлайн-сховішча [4].
-
Ці дапамагае Vertex AI з RAG? Yes-Vector Search створаны для яго і інтэгруецца з астатняй часткай стэка [3].
-
Як кантраляваць выдаткі? Пачніце з малога, вымерайце і праглядзіце квоты/выдзяленне рэсурсаў і цэны ў залежнасці ад класа нагрузкі, перш чым маштабаваць [1][5].
Спасылкі
[1] Google Cloud - Уводзіны ў Vertex AI (агляд адзінай платформы) - чытаць далей
[2] Google Cloud - агляд Vertex AI Agent Builder - чытаць далей
[3] Google Cloud - Выкарыстоўвайце вектарны пошук Vertex AI з рухавіком Vertex AI RAG - чытаць далей
[4] Google Cloud - Уводзіны ў кіраванне функцыямі ў Vertex AI - чытаць далей
[5] Google Cloud - Захаванне дадзеных кліентаў і нулявое захоўванне дадзеных у Vertex AI - чытаць далей