Што НІКОЛІ не варта ўкладваць у штучны інтэлект

Што НІКОЛІ не варта ўкладваць у штучны інтэлект [відэа і віктарына]

Кароткі адказ: ніколі не ўстаўляйце паролі, ключы API, ідэнтыфікатары, медыцынскія або банкаўскія запісы, файлы кліентаў па пагадненнях аб неразгалошванні або дадзеныя іншых людзей у публічны чат штучнага інтэлекту. Калі вам патрэбна дапамога, апішыце праблему з дапамогай запаўняльнікаў і адрэдагаваных урыўкаў — мадэлі патрэбна форма праблемы, а не сакрэты, якія раскрываюць рэальныя сістэмы.

Асноўныя высновы:

Сакрэты застаюцца афлайн: ніколі не ўстаўляйце паролі, токены, файлы cookie або пачатковыя фразы ў запыт.

Пазбаўцеся ад ідэнтычнасці: заменіце сапраўдныя імёны, адрасы і нумары ідэнтыфікацыйных асоб на ролі і падробкі.

Канфідэнцыяльнасць працы: не дапускайце ў чат спажыўцоў чарнавікі пагадненняў аб неразгалошванні, кліенцкія файлы і неапублікаваныя планы.

Межа згоды: Не ўстаўляйце асабістыя дадзеныя калег, кліентаў або дзяцей без цыкла, які выконвае толькі чалавек.

Спачатку адрэдагуйце: выкарыстоўвайце запаўняльнікі і ачышчаныя ўрыўкі; ратуйце ўсё, што вы ўжо апублікавалі.

Што НІКОЛІ не варта ўкладваць у штучны інтэлект

Спачатку мы ўстаўляем тэкст, а потым думаем. Чат-бот сядзіць, як цярплівы стажор з бясконцай кавы, таму здаецца амаль бяскрыўдным выкінуць усю заблытаную праблему ў скрынку. Лагін, які не будзе працаваць. Пункт кантракту, ад якога сціскае жывот. Скрыншот прыборнай панэлі, на якім усё яшчэ бачна кожнае імя. Інструмент карысны, атмасфера адчуваецца прыватнай, і ваш мозг ціха захоўвае яго побач з «нататкамі, якія я напісаў для сябе»

Вось у чым пастка. 🧠 Чат — гэта не замкнёная шуфляда. Гэта размова з сістэмай, якая захоўвае, апрацоўвае і часам навучаецца таму, што вы адпраўляеце, у залежнасці ад прадукту, налад і таго, ці заўважылі вы іх наогул. Я тут не для таго, каб загнаць вас у паніку. Я тут з практычнай картай таго, што НІКОЛІ не варта ўкладваць у штучны інтэлект, а таксама з непрыкметнымі, але практычнымі звычкамі, якія ўсё роўна дазваляюць атрымліваць дакладныя адказы.

Уявіце сабе гэта як выкрыкванне сакрэту на перапоўненай кухні. Не ўсе незнаёмцы слухаюць. Тым не менш, некаторыя з іх могуць слухаць. І кухня захоўвае запіс па прычынах, якія ніколі не такія простыя, як іх паказвае маркетынгавы тэкст.

Чаму мы ўсё выкідваем у чат

Хуткасць. Вось і ўсё. Вы затрымаліся, памылка непрыгожая, і ўстаўка ўсяго журнала здаецца хутчэйшай, чым яго ачыстка. Кантэкст адчуваецца як дабрыня да мадэлі. Больш дэталяў, лепшая дапамога; гэта народная прыказка, і яна напалову праўда.

Другая палова — эмацыйная. Чат-бот не падымае брыво. Ён не раскажа вашаму кіраўніку. Ён не будзе плёткарыць за абедам. Таму мы ставімся да яго як да дзённіка з суперздольнасцямі. Я рабіў гэта. Вы, напэўна, рабілі гэта. У той момант, калі нешта адначасова зручнае і не асуджае, нашы інстынкты прыватнасці пераходзяць на перапынак на гарбату.

Вось крыху раздражняльная праўда: мадэлі не патрэбныя вашы паўсядзённыя падрабязнасці, каб дапамагчы вам. Ёй патрэбна форма праблемы. Імёны, токены, нумары рахункаў і твары на скрыншотах — гэта ўпрыгожванне. Вытанчанае ўпрыгожванне. Усё роўна ўпрыгожванне.

  • Вы ўстаўляеце, таму што рэдагаванне здаецца вам дадатковай працай.
  • Вы ўстаўляеце, бо «толькі гэты раз» — гэта звычка насіць маскіроўку.
  • Вы ўстаўляеце, таму што інтэрфейс выглядае як прыватнае асабістае паведамленне і паводзіць сябе як шафа для дакументаў.

Нішто з гэтага не робіць цябе неабдуманым. Гэта робіць цябе чалавекам. Выпраўленне — двухсекундная паўза, а не перасадка асобы.

Паролі, ключы API і сакрэты, якія павінны заставацца афлайн 🔐

Калі яно можа нешта разблакіраваць, гэта не павінна быць у запыце. Паролі. Аднаразовыя коды. Сесійныя кукі. Ключы SSH. Радкі падключэння да базы дадзеных. Ключ API, які вы абяцалі сабе хутка ратаваць. Начальныя фразы кашалька. Прыватныя сертыфікаты. Пытанне аднаўлення, якое ваш банк усё яшчэ лічыць разумным.

Раней я ўяўляў сабе ключы як ключы ад дома на кручку каля дзвярэй. Мілая метафара; яна адразу ж развальваецца, бо ключ ад дома адчыняе адны дзверы, а ключ API можа адкрыць склад, рахунак для аплаты і кучу кліенцкіх запісаў, якія вы нават забыліся захаваць. Рэзервовае капіраванне: ставіцеся да сакрэтаў як да радыеактыўных. Не кладзіце радыеактыўныя рэчы ў прэс для сэндвічаў, нават калі прэс для сэндвічаў вельмі добры ў гатаванні сэндвічаў.

Мадэль не можа «трымаць гэта паміж намі» так, як гэта можа сябар. Нават калі пастаўшчык прапануе кантроль над памяццю, нават калі вы адключыце навучанне, тэкст усё роўна перадаецца, запісваецца ў нейкай форме і можа заставацца ў гісторыі чата, пакуль вы не пачнеце яго шукаць. Выкажам здагадку, што ўстаўка — гэта копія, якую вы больш не кантралюеце цалкам.

Што рабіць замест гэтага

  • Апішыце сакрэт па тыпу, а не па значэнні. Для падказкі па адладцы дастаткова "URL-адраса Postgres з паролем".
  • Рэдагаваць з дапамогай відавочных запаўняльнікаў: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Перавярніце ўсё, што вы ўжо пралілі. Зрабіце гэта зараз, а не пасля таго, як «паглядзіце, ці што-небудзь здарыцца»
  • Захоўвайце сапраўдныя ўліковыя дадзеныя ў менеджары пароляў або сховішчы сакрэтаў; ніколі не ў ланцужку паведамленняў, скрыншот якога вы можаце зрабіць пазней.

Калі інструмент просіць вас уставіць ключ, каб ён мог «падключыцца для вас», гэта ўжо іншая катэгорыя прадуктаў. Гэта інтэграцыя з Access, а не памочнік па напісанні. Успрымайце гэта як перадачу камусьці свайго бэйджа.

Персанальныя ідэнтыфікатары і ціхі след ідэнтыфікацыі 🪪

Ідэнтыфікацыйная інфармацыя — гэта непрывабны сваяк пароляў. Нацыянальныя ідэнтыфікацыйныя нумары. Пашпартныя дадзеныя. Палі ідэнтыфікацыі, звязаныя з датай. Хатнія адрасы. Нумары тэлефонаў. Ідэнтыфікацыйныя дадзеныя супрацоўнікаў. Нумары студэнтаў. Поўныя імёны і прозвішчы ў спалучэнні з датамі нараджэння, назвамі навучальных устаноў або медыцынскіх клінік. Адна частка выглядае маленькай. Тры часткі разам — гэта дасье.

Людзі робяць гэта, калі хочуць, каб ім напісаў ліст, пераклаў форму або адшліфаваў рэзюмэ. Цалкам разумныя мэты. Мадэлі не патрэбны сапраўдны паштовы індэкс, каб ветліва напісаць скаргу. Ёй патрэбны тон, факты, якія не ідэнтыфікуюць асобу, і вынік, якога вы хочаце.

Мяркую, што самае дзіўнае — гэта «бяспечныя» камбінацыі. Унікальная пасада плюс горад плюс школа дзіцяці плюс рэдкае захворванне. Вы б не напісалі такое на ўлётцы. Чат-акно — гэта не ўлётка, але і не сейф.

  • Заменіце сапраўдныя імёны ролямі: «менеджэр па падборы персаналу», «мой тэрапеўт», «арэндатар»
  • Абагульняйце месцазнаходжанне: «горад сярэдняга памеру», а не вуліцу і код званка.
  • Адмаўляйцеся ад унікальных лікаў, калі толькі задача не тычыцца фармату лікаў, у такім выпадку выкарыстоўвайце падробку, якая выглядае дастаткова рэальнай.

Ананімізацыя — гэта не доктарская ступень. Гэта звычка правяраць, ці зможа незнаёмец распазнаць вас у гэтым абзацы. Калі зможа, абрэжце.

Працоўная канфідэнцыяльнасць, пагадненні аб неразгалошванні і тое, ад чаго ваш начальнік здрыгануўся б 📎

Вось тут і трапляюць у бяду людзі з-за жадання дапамагчы. Вы ўстаўляеце кліенцкія матэрыялы. Неапублікаваную дарожную карту. Табліцу заробкаў. Зыходны код з унутранымі імёнамі хастоў. Юрыдычны праект, які ўсё яшчэ пазначаны як канфідэнцыйны. Запісы сустрэч з імёнамі людзей, якім яшчэ не паведамілі. Пагадненне аб неразгалошванні, якое вы падпісалі паспешліва, бо кава астывала.

Чат-боты — гэта не кансультант вашай кампаніі і не бяспечны працоўны стол, калі ваша арганізацыя сапраўды не адстойвала яго. Інструменты для спажыўцоў створаны для зручнасці. Карпаратыўныя інструменты могуць быць лепшымі, з кантролем захоўвання дадзеных і палітыкай адміністравання; яны ўсё роўна не з'яўляюцца падставай для таго, каб ставіць каштоўныя камяні ў карону дзеля прапуску граматыкі.

Практычнае правіла, якое я трымаю ў галаве, — гэта запіс: калі вы не публікуеце гэта ў асабістым чарнавіку Gmail, не пішыце гэта ў публічным чаце са штучным інтэлектам. Калі вы не кажаце гэта ў райдшэрынгу, то гэта тое ж самае. Людзі, якія асцярожныя ў Slack, становяцца паэтамі празмернага абмену, як толькі з'яўляецца кнопка «Згенераваць».

Больш бяспечныя абходныя шляхі

  • Апішыце дакумент: працягласць, аўдыторыя, тры важныя моманты, патрэбны тон.
  • Устаўце апрацаваны ўрывак. Выдаліце ​​імёны, канфідэнцыйныя лічбы і ўсё, за што канкурэнт пахваліў бы сябе.
  • Папрасіце структуру або шаблон перапісвання, а затым самастойна ўжыйце яго да рэальнага тэксту ў аўтаномным рэжыме.
  • Карыстайцеся зацверджаным інструментам на працоўным месцы, калі ён у вас ёсць, і ўсё роўна рэдагуйце па змаўчанні. Палітыка — гэта падлога, а не батут.

Код — гэта асаблівая асаблівасць гэтага. Унутраныя URL-адрасы, загалоўкі аўтэнтыфікацыі і каментарыі накшталт «TODO: выдаліць перад набыццём» — гэта маленькія падарункавыя біркі. Захоўвайце фіктыўныя дадзеныя. Захоўвайце логіку. Мадэль добра апрацоўвае фіктыўныя дадзеныя; ёй не патрэбна ваша вытворчая схема з рэальнымі электроннымі адрасамі кліентаў, якія ўсё яшчэ ўкладзены ў фікстуру.

Здароўе, грошы і дэталі, пра якія вы б не крычалі праз усю кавярню 💊

Медыцынская і фінансавая інфармацыя здаецца тэрміновай, таму яе ўстаўляюць з мінімальным рэдагаваннем. Вынікі лабараторных аналізаў. Спісы рэцэптаў. Ідэнтыфікацыйныя нумары страхавых полісаў. Выпіскі з банкаўскага рахунку. Падатковыя лісты. Крэдытныя справаздачы. Фотаздымак карткі «толькі для апошніх чатырох лічбаў», які неяк уключае астатнюю частку карткі, ваш кухонны стол і ліст з чужым імем.

Вы можаце задаваць выдатныя пытанні, нават не маючы першапачатковай карты. Падказка: «Растлумачце, што можа азначаць павышаны маркер у агульных рысах». «Вось мая поўная карціна, мой адрас, мая клініка і дзявочае прозвішча маёй маці» — гэта біяграфія.

Я не кажу, што ніколі не трэба размаўляць з мадэллю пра здароўе ці грошы. Я кажу, што трэба ставіцца да чат-бота як да начытанага незнаёмца ў цягніку. Ён добры для кадравання. Жахлівы як ваш бухгалтар, ваш клініцыст ці ваш архіў. І так, я ведаю, што метафара з начытаным незнаёмцам прасочваецца; цягнікі не вядуць журналы чатаў. У гэтым, відаць, і сэнс.

  • Выдаліце ​​нумары рахункаў, коды сартавання, IBAN і ўсё, што выглядае як паўнамоцтвы.
  • Папрасіце агульныя тлумачэнні, кантрольныя спісы і пытанні, якія можна задаць прафесіяналу.
  • Не выкарыстоўвайце чат як шафу для захоўвання заяў, «каб я мог пазней іх запытаць». Менавіта так захоўванне інфармацыі становіцца праблемай.

Калі ў кафэ падказка прымушае вас панізіць голас, спачатку адрэдагуйце інфармацыю. Гэты тэст дзіўна надзейны і нічога не каштуе.

Чужыя дадзеныя вам не дазволены для ўстаўкі 🚫

Гэты запіс прапускаецца, бо ствараецца ўражанне, што вы — галоўны герой чата. На скрыншоце бачныя не толькі вы. Электронныя лісты калег. Ідэнтыфікатар партнёра. Скарга кліента з прымацаваным нумарам тэлефона. Фотаздымкі дзяцей. Тэма ў Slack, дзе згадваецца, каго ледзь не звольнілі. Запіс размовы, пра якую іншы чалавек не ведаў, што яна будзе перададзена мадэлі.

Згода не пераходзіць аўтаматычна ад «яны даслалі мне ліст» да «машына можа захаваць гэта». Нават калі вашы намеры добрыя — напісаць больш прыемны адказ, падсумаваць бязладную тэму — неапрацаваны карысны нагрузак усё роўна застаюцца іх жыццём, а не вашымі пачатковымі радкамі.

Трохі саркастычная лакмусавая паперка: калі вы не перасылаеце той самы блоб на рассылку незнаёмых людзей «для зваротнай сувязі», то не варта ставіцца да чат-бота як да меншай рассылкі з лепшымі манерамі.

  • Карацей кажучы, ахарактарызуйце іншых людзей сваімі словамі.
  • Замяніце імёны на пасады і выдаліце ​​кантактную інфармацыю.
  • Спытайце ў чалавека, ці з'яўляецца задача канфідэнцыйнай; некаторыя рэчы павінны заставацца ў цыкле, якім займаецца толькі чалавек.
  • Ніколі не ўклейвайце асабістыя дадзеныя дзяцей, школьныя запісы або ідэнтыфікацыйныя фатаграфіі для «вясёлага» пакалення.

Тут ёсць юрыдычны пласт, які я не буду разглядаць голасам блогера. Правілы прыватнасці, службовыя абавязкі і кантракты з кліентамі — усё гэта мае сваё меркаванне. Практычная звычка прасцейшая за закон: па змаўчанні чужыя дадзеныя не з'яўляюцца часткай запыту.

Што НІКОЛІ не варта ўбудоўваць у штучны інтэлект: табліца рызык, якую можна выкарыстоўваць на практыцы

Мне падабаюцца табліцы для гэтага, бо спіс «ніколі» можа гучаць павучальна, а табліца дазваляе ўбачыць замену. Злёгку суб'ектыўныя ацэнкі, а не лабараторны справаздачу.

Тып дадзеных Узровень рызыкі Чаму гэта праблема Больш бяспечная альтэрнатыва
Паролі, ключы API, токены, пачатковыя фразы Крытычны Яны разблакуюць сістэмы; копія, якую вы не можаце цалкам успомніць, усё роўна застаецца копіяй Запаўняльнікі плюс лакальны менеджар сакрэтаў; мяняць у выпадку ўцечкі
Дзяржаўныя пасведчанні асобы, сканы пашпартоў, нацыянальныя нумары Крытычны Стартавы пакет для крадзяжу асабістых дадзеных; цяжка "адмяніць адпраўку" Фальшывыя прыклады або пытанні толькі па фармаце
Медыцынскія карты, рэцэпты, страхавыя пасведчанні Высокі Інтымны, рэгуляваны пачуццёвы і ліпкі ў гісторыі Агульныя сімптомы або тэмы; не дапускайце ідэнтыфікатары на старонцы
Банкаўскія выпіскі, падатковыя дакументы, фатаграфіі картак Высокі Прамыя фінансавыя рызыкі плюс дадатковая асабістая інфармацыя на прыбытку Пытайцеся пра працэсы, а не пра прывязаныя да вас лічбы
Файлы кліентаў, чарнавікі пагадненняў аб неразгалошванні, неапублікаваныя планы Высокі Магчыма, вы парушаеце абяцанне, якое ўжо падпісалі Ачышчаныя вытрымкі; запыты на структуру; зацверджаныя працоўныя інструменты
Ідэнтыфікацыйныя дадзеныя калегі або кліента, звесткі пра дзяцей Высокі Ахвяраваць мадэлі не тваё Зводкі па ролях; выдаленне кантактаў і твараў
Унутраная крыніца з імёнамі хастоў і рэальнымі адрасамі электроннай пошты Сярэдне-высокі Здаецца, што гэта «проста код», пакуль хто-небудзь не адлюструе вашу сетку на карце Фіктыўныя дадзеныя, фальшывыя дамены, ачышчаныя каментарыі
Здымкі экрана панэляў кіравання або паштовых скрынь Сярэдне-высокі Яны кантрабандай пераносяць імёны, нумары і адкрытыя ўкладкі, пра якія вы забыліся Абрэзаць, размыць або перадрукаваць адпаведны фрагмент
Невыразныя асабістыя гісторыі без унікальных ідэнтыфікатараў Ніжэй Звычайна добра; усё роўна прапусціце ўсё, што вы б не сказалі незнаёмцу Захоўвайце агульнае; прапусціце рэдкую ідэнтыфікацыйную камбінацыю

Калі вы больш нічога не памятаеце, успомніце левую калонку. Гэта сэрца таго, што НІКОЛІ нельга ўкладваць у штучны інтэлект, калі вы спяшаецеся, а ваш мозг хоча ўставіць увесь сусвет.

Пасткі са скрыншотамі і выпадковае распаўсюджванне звышурочных паведамленняў 🖼️

Здымкі экрана — гэта тое, як добрыя людзі выкрываюць інфармацыю. Вы маеце на ўвазе паказаць дыялогавае акно памылкі. Здымак уключае панэль закладак, значок Slack з імем, URL з токенам, усплывальнае акно календара, адлюстраванне ў цёмным акне, якое аказваецца менеджарам пароляў. Я абрэзаў здымак і ўсё роўна не бачу малюсенькага пераключальніка ўліковых запісаў у куце. Гэта тыповая памылка.

Фотаздымкі дакументаў горшыя, бо камеры шчодрыя. Стол, дошка, бальнічны бранзалет, этыкетка дастаўкі. Мадэлі могуць не "патрэбавацца" дадатковыя пікселі. Пікселі ўсё роўна прыбываюць.

Звычайны рытуал скрыншота

  • Спачатку абрэжце. Затым абрэжце яшчэ раз. Потым паглядзіце на краю так, быццам яны вам грошы павінны.
  • Размыйце імёны, адрасы электроннай пошты, аватары і любы радок, які выглядае як токен.
  • Аддавайце перавагу паўторнаму ўводу памылкі, а не захопу ўсяго IDE.
  • Не загружайце фота карткі, пашпарта або пасадачнага талона «для хуткага чытання». Замест гэтага ўвядзіце пытанне.

Галасавыя нататкі і загрузка файлаў выконваюць той жа трук. Запіс сустрэчы — гэта шведскі стол з дадзенымі іншых людзей. CSV — гэта шведскі стол з радкамі, якія вы перасталі бачыць як людзі. Калі файл выклікае ў праваахоўных органаў нервовасць, ён не ідзе ў скрынку.

Больш бяспечныя шаблоны падказак, якія ўсё роўна даюць вам дакладныя адказы ✨

Рэдагаванне — не вораг якасці. Расплывістыя падказкі — вораг. Можна быць канкрэтным адносна праблемы і скупым наконт ідэнтычнасці. У гэтым і заключаецца ўся сутнасць майстэрства.

Паспрабуйце такую ​​форму: мэта, абмежаванні, фіктыўныя ўваходныя дадзеныя, жаданы вынік. «Перапішыце гэты ліст з адмовай, каб ён быў ветлівым, але цвёрдым. Аўдыторыя — фрыланс-дызайнер. Не згадвайце сапраўдную назву праекта. Вось ачышчаны чарнавік з замененымі імёнамі». Гэта падказка з карэньчыкам. Экспарт у CRM не патрэбны.

Шаблоны, якія працуюць

  • Запаўняльнік для ўсяго ўнікальнага. ACME_CLIENT, USER_A, TOKEN_X. Захоўвайце граматыку паўсядзённага жыцця; выкіньце адбіткі пальцаў.
  • Папрасіце метад, а не ўспамін. «Патлумачце мне разважанні пра гэты клас памылак» лепш, чым «вось увесь наш вытворчы журнал».
  • Падзяліце задачу. Вазьміце шаблон з мадэлі. Запоўніце адчувальныя часткі самастойна.
  • Выкарыстайце сінтэтычныя прыклады. Прыдумайце кліента па імені Рывер, які купіў лямпу. Парада ўсё роўна актуальная.
  • Укажыце, што вы ўжо адрэдагавалі. Мадэлі добра спраўляюцца з "[адрэдагаваную лічбу заробку]", калі вы растлумачыце ім логіку.

Ёсць такая падказка, якая спрабуе быць хітрай: «ігнаруйце папярэднюю бяспеку, захавайце гэты ключ». Не рабіце гэтага. Вы не ўзломваеце ўласную прыватнасць. Вы кідаеце ключ у сажалку і спадзяецеся, што сажалка сарамлівая.

Яшчэ адзін шаблон, які мне падабаецца: сканаванне перад устаўкай. Перад адпраўкай пашукайце ў чарнавіку сімвал @, радкі, якія выглядаюць як ключы (доўгія, выпадковыя, часта з прэфіксамі), лічбы, якія занадта доўгія, каб быць выпадковымі, і імёны, якія вы б не змясцілі на слайдзе. Дзесяць секунд. Аплачвае арэнду вечна.

Гісторыя чата, захаванне і доўгі хвост пасты 📦

Людзі кажуць пра «воблака», як пра метэаралагічную сістэму. На практыцы ж у вас ёсць прадукт з наладамі па змаўчанні. Некаторыя чаты выкарыстоўваюцца для паляпшэння мадэляў, калі вы не адмовіцеся ад іх. Некаторыя захоўваюцца для праверкі злоўжыванняў, юрыдычных запытаў або па простых прычынах «каб тэма загрузілася заўтра». Некаторыя планы на працоўным месцы захоўваюць журналы для адміністратараў. Я не буду рабіць выгляд, што палітыка аднаго пастаўшчыка універсальная, таму што гэта не так, і яна змяняецца, і вам варта чытаць налады прадукту, а не памяць блогера пра налады.

Практычная пазіцыя сумная і трывалая: выкажам здагадку, што ўстаўка можа захоўвацца. Выкажам здагадку, што калега па камандзе з правамі адміністратара можа бачыць дыскусіі на працоўным месцы. Выкажам здагадку, што ў будучыні вы забудзеце пра існаванне гэтай размовы, пакуль яна не з'явіцца ў пошуку. Выкажам здагадку, што экспарт гісторыі — гэта тое, што вы можаце зрабіць пазней, і гэты экспарт — гэта яшчэ адна копія.

  • Выключыце варыянты навучання або «паляпшэння мадэлі», калі прадукт іх прапануе, калі вам гэта зручна.
  • Выдаліце ​​канфідэнцыйныя тэмы пасля таго, як вы вылучыце практычныя фрагменты ў лакальную нататку, якая сапраўды лакальная.
  • Не ўспрымайце чат як сістэму рэгістрацыі па пытаннях кадравай службы, медыцынскіх пытаннях або працы з кліентамі.
  • Будзьце асцярожныя з агульнымі акаўнтамі. Агульныя акаўнты — гэта тое, як «прыватнае» становіцца офісным фальклорам.

Функцыі памяці — тыя, што нагадваюць пра вашу працу, сабаку, ваш любімы тон — зручныя і трохі жудасныя. Яны таксама з'яўляюцца прычынай не вучыць сістэму вашым сапраўдным ідэнтыфікатарам, «каб яна магла быць больш асабістай». Асабістае — гэта стыль. Гэта не ваш нумар нацыянальнага страхавання.

Нормы працоўнага месца, калі ваша каманда жыве ў чат-ботах 🏢

Офісы — гэта месца, дзе звычка ўстаўкі становіцца прамысловым месцам. Хтосьці выкідвае CSV-файл кліента, каб «ачысціць слупкі». Хтосьці іншы выкідвае стратэгічны дакумент, каб «зрабіць яго больш выразным». Добранамерны стажор устаўляе канал інцыдэнтаў. Ніхто не злыдзень. Стымулы — гэта хуткасць і лашчванне.

Калі вы кіруеце камандай, напішыце кароткія правілы, якія кіруюцца чалавекам. Не 40-старонкавую палітыку, якую ніхто не чытае. Нешта накшталт: ніякіх уліковых дадзеных, ніякіх персанальных дадзеных кліентаў, ніякіх неапублікаваных лічбаў, ніякіх юрыдычных чарнавікоў, выкарыстоўвайце зацверджаны інструмент, рэдагуйце па змаўчанні. Затым пакажыце прыклад добра ачышчанага падказкі, каб людзі не здагадваліся.

  • Назавіце зацверджаны інструмент, калі ён у вас ёсць, і незацверджаныя.
  • Дайце людзям кантрольны спіс рэдагавання, які яны могуць выканаць перад стэндапам.
  • Можна смела сказаць «Я ледзь не прыляпіў гэта» без тэатральнага расследавання.
  • Нагадайце людзям, што «штучны інтэлект сказаў, што ўсё ў парадку» — гэта не кантроль.

Нават калі вы не кіруеце камандай, вы ўсё роўна можаце быць тым чалавекам, які прыляпляе пустышку. Культура заразная ў абодвух напрамках. Думаю, гэта гучыць сур'ёзна. Таксама гэта тое, як змяняюцца нормы: адзін чалавек перастае кідаць ключы, і ў пакоі становіцца крыху менш беспарадку.

Тэатр закупак — гэта пабочны квэст, які я прапушчу. Купля «карпаратыўнай» абгорткі не робіць кожную запытку мудрай. Яна можа дапамагчы з утрыманнем кліентаў і доступам. Вашы звычкі ўсё роўна робяць цяжкую працу.

Ты ўжо нешта няёмкае ўклеіў — што цяпер 🧯

Бывае. Націскаеш «Адправіць», і твая душа пакідае цела. Не круціся па спіралі. Зрабі кароткую, крыху непрывабную паслядоўнасць.

  • Перастаньце карыстацца гэтым сакрэтам. Змяніце пароль, адклікайце ключ, анулюйце сесію. Гэта адзіны крок, які зачыніць дзверы назаўжды.
  • Выдаліце ​​чат, калі прадукт дазваляе, і ачысціце ўсе нядаўна выдаленыя кішэні, калі такія ёсць.
  • Праверце падлучаныя праграмы і памяць. Некаторыя інструменты захоўваюць фрагменты кода ў памяці або файлах праектаў, якія вы забыліся ўключыць.
  • Паведаміце патрэбнаму чалавеку, калі гэта былі службовыя дадзеныя. Ахова, кіраўнік, вядучы кліент; той, хто валодае радыусам выбуху. Рана менш балюча, чым пазней.
  • Сачыце за незвычайнымі ўваходамі ў звязаныя акаўнты. Ратацыя без маніторынгу — гэта палова справы.

Калі гэта былі чужыя дадзеныя, вы таксама павінны ім іх выправіць і, у залежнасці ад беспарадку, папярэдзіць. Няёмка. Усё ж лепш, чым спадзявацца на ветлівасць Сусвету.

Не спрабуйце "перазапісаць" уцечку, дадаючы дадатковыя тлумачэнні. Дадатковы кантэкст — гэта лішні тэкст. Выйдзіце з тэмы.

Збіраем разам

Кароткая версія « Што ніколі не варта ўстаўляць у штучны інтэлект» — гэта не спіс лаянак. Гэта пастава. Калі яна разблакуе сістэму, ідэнтыфікуе чалавека або прымусіць вас здрыгануцца ў кафэ, яна застаецца нестандартнай. Вы ўсё роўна можаце атрымаць выдатную дапамогу. Вы проста даяце мадэлі эскіз, а не ключы ад дома, медыцынскую карту і пошту суседа.

Кароткі агляд:

  • Ніякіх пароляў, ключоў, токенаў або пачатковых фраз. Павярніце, калі вы памыліліся.
  • Ніякіх сапраўдных пасведчанняў асобы, поўнай фінансавай справаздачнасці, неапрацаваных медыцынскіх запісаў або матэрыялаў, звязаных з пагадненнем аб неразгалошванні.
  • Ніякіх асабістых звестак іншых людзей, асабліва дзяцей.
  • Здымкі экрана хлусяць дзякуючы ўключэнню; абрэжце так, як вы маеце на ўвазе.
  • Рэдагаваць, падманваць і запытваць метады. Канкрэтная праблема, фальшывыя цэтлікі.
  • Лічыце, што гісторыя захоўваецца. Выдаляйце, не архівуйце сакрэты ў чат-боце.
  • На працоўным месцы патрэбныя кароткія правілы і добры прыклад, а не атмасфера нязмушанай прыватнасці.

Карыстайцеся інструментамі. Яны выдатна спраўляюцца з чарнавікамі, адладкай фігур і адгаворваюць вас ад памылак, якія могуць узнікнуць у выніку. Проста перастаньце ставіцца да тэкставага поля як да сховішча з пачуццём гумару. Гэта вельмі разумны блендер. Усё роўна не варта класці пашпарт у блендер. 🫡

Практычны прыклад: стварэнне брыфа па адладцы з рэдагаваннем для невялікай каманды інжынераў

Правілы прыватнасці дзейнічаюць, калі яны ратуюць звычайны аўторак, а не тады, калі гучаць строга. Вось як каманда SaaS з пяці чалавек у Вялікабрытаніі выкарыстала звычкі з гэтага кіраўніцтва, каб спыніць перадачу ўліковых дадзеных і персанальных дадзеных кліентаў у чат-боты для спажыўцоў, не адмаўляючыся ад дапамогі ў адладцы.

Сцэнар

Распрацоўшчыкі і служба падтрымкі маюць адну непрыемную звычку: калі памылка аўтарызацыі выглядае непрыгожа, хтосьці ўстаўляе ўвесь журнал, радок падключэння для прамежкавай стадыі і скрыншот адміністрацыйнай панэлі, «каб мадэль мела кантэкст». У мінулым квартале гэта ўключала ў сябе жывы ключ API у трасіроўцы стэка і адрас электроннай пошты кліента, які ўсё яшчэ бачны ў радку URL-адраса скрыншота. Ніхто не хацеў зла. Хуткасць перамагла. Кухня захавала запіс.

Ім не патрэбна лекцыя. Ім патрэбны паўтаральны кароткі змест: апішыце сакрэт па тыпах, выдаліце ​​запаўняльнікі, абрэжце скрыншоты, запытайце метад, а не ўспамін, а потым прымяніце выпраўленне ў жывых сістэмах афлайн. Спажывецкі чат усё роўна зарабляе на жыццё. Ключы ад дома застаюцца па-за блендерам.

Мэта — атрымаць такую ​​ж якасць кансультацый з двухсекундным папярэднім сканаваннем перад устаўкай — і кароткім камандным правілам, якога людзі будуць прытрымлівацца.

Што патрэбна памочніку

  • Ачышчаная форма праблемы: клас памылкі, прыблізнае час яе пачатку, асяроддзе (падрыхтоўка супраць вытворчасці) без імёнаў хастоў, якія адлюстроўваюць сетку
  • Толькі фіктыўныя ўводы: REDACTED_KEY, USER_TOKEN, customer@example.com, падробленыя ідэнтыфікатары запытаў
  • Што ўжо было выдалена (пазначана ў запыте, каб мадэль не запытвала сапраўдныя значэнні)
  • Жаданы вынік: верагодныя прычыны, праверкі для выканання, план патча — не «падключыцца з маім ключом»
  • Чалавек, які захоўвае ўліковыя дадзеныя ў менеджары пароляў або сховішчы сакрэтаў
  • Правіла каманды на адной старонцы: ніякіх уліковых дадзеных, ніякіх персанальных дадзеных кліентаў, ніякіх неапублікаваных лічбаў, рэдагаванне па змаўчанні

Прыклад інструкцыі

Мэта: Дапамажыце мне адладзіць перыядычную памылку 401 у нашым прамежкавым API пасля абнаўлення токена. Не прасіце мяне ўстаўляць сакрэты.

Абмежаванні: Я ўжо выдаліў паролі, ключы API, токены, файлы cookie, унутраныя імёны хастоў і адрасы электроннай пошты кліентаў. Запаўняльнікі ў журнале азначаюць, што сапраўдныя значэнні існуюць толькі на маім кампутары. Вялікабрытанская англійская. Без уступу.

Урывак з фіктыўнага фрагмента: Запыт да https://api.example-staging.invalid/v1/session вярнуў памылку 401. Аўтарызацыя загалоўка: носьбіт REDACTED_KEY. У целе згадваецца USER_TOKEN, тэрмін дзеяння якога скончыўся. Апісанне скрыншота (не далучана): толькі ўсплывальнае акно памылкі; панэль закладак і пераключальнік уліковых запісаў абрэзаны.

Задача: Пералічыце тры найбольш верагодныя прычыны гэтага класа памылак, праверкі, якія я павінен выканаць лакальна, і мінімальны план патчаў. Калі вам патрэбна больш падрабязнасцей, запытайце тып інфармацыі (напрыклад, "налада TTL токена") - ніколі не неапрацаваны сакрэт.

Вынік: пранумараваныя прычыны, затым кантрольны спіс, а затым «што не варта ўстаўляць наступным разам» у трох пунктах.

Як гэта праверыць

  • Параўнайце стары ўстаўлены файл (поўны журнал + скрыншот) з адрэдагаваным кароткім апісаннем вышэй па тым жа тыпе інцыдэнту. Параўнайце якасць рэкамендацый і тое, ці запытвае мадэль сакрэтныя дадзеныя.
  • Сканіраванне перад устаўкай: перад адпраўкай правядзіце пошук у чарнавіку сімвалаў @, доўгіх выпадковых радкоў і занадта доўгіх для выпадковага размяшчэння лічбаў.
  • Памежны выпадак: уключыце падроблены ключ, які выглядае сапраўдным, і пацвярджайце, што адказ усё яшчэ працуе, не патрабуючы сапраўднага значэння.
  • Памежны выпадак: адмовіцца ад загрузкі скрыншота; паўтарыць толькі радок памылкі; пераканацца, што кантрольны спіс усё яшчэ дапамагае.
  • Праверка прыняцця: (1) нуль уліковых дадзеных у патоку, (2) нуль кантактных дадзеных кліента, (3) аб'яўленыя запаўняльнікі, (4) вынік — гэта метад/кантрольны спіс, а не паток «уставіць свой ключ», (5) калі што-небудзь прасачылася раней, ратацыя адбылася ў той жа дзень.

Вынік

Ілюстрацыйны вынік (прыклад ацэнкі для адной невялікай каманды інжынераў/падтрымкі, не апублікаванае даследаванне): пасля 12 чатаў адладкі за чатыры тыдні сярэдні час стварэння карыснага кантрольнага спісу нязначна павялічыўся з прыблізна 4 хвілін (поўная ўстаўка) да прыблізна 6 хвілін з рэдагаваннем - дзве дадатковыя хвіліны для сканавання перад устаўкай і запаўняльнікаў. Колькасць тэм, якія змяшчаюць крытычныя тыпы дадзеных (ключы, адрасы электроннай пошты кліентаў, неапрацаваныя радкі падключэння), скарацілася з 9 з 12 чатаў да 1 з 12 (гэты быў злоўлены на праверцы і зменены ў той жа дзень). У простым кантрольным спісе гігіены (без сакрэтаў, без персанальных дадзеных кліента, заяўленых запаўняльнікаў, абрэзаных або без скрыншотаў) 11 з 12 адрэдагаваных брыфінгаў былі прыняты ў параўнанні з 3 з 12 паводле старой звычкі. Абмежаванні: невялікая выбарка, адна каманда, час самастойнай справаздачы; больш лёгкія інцыдэнты патрабуюць меншай рэдагавання; «прыняты» быў экспертнай ацэнкай тэксту запыту, а не лабараторнай праверкай журналаў пастаўшчыкоў.

Каб ацаніць сваю ўласную версію: прааналізуйце 10 нядаўніх патокаў адладкі штучнага інтэлекту для забароненых тыпаў дадзеных, затым прааналізуйце 10 пасля правіла рэдагавання і шаблону; паведаміце пра колькасць з назоўнікамі плюс медыяну хвілін ад «затрымкі» да «кантрольнага спісу ў руках»

Што можа пайсці не так

  • Кантрабанда скрыншотаў: памылка ў парадку; радок URL усё яшчэ змяшчае токен. Абрэжце двойчы, а затым праверце краю.
  • Ключы «толькі гэты раз»: адзін уцечаны ключ API можа адкрыць запісы аб аплаце і кліентах. Ратуйце неадкладна; не чакайце, «ці што-небудзь здарыцца».
  • Дадзеныя іншых людзей: Скарга кліента з нумарам тэлефона не з'яўляецца вашай для перадачы мадэлі. Каротка апішыце сваімі словамі.
  • Чат як сховішча: Пакіданне сакрэтаў у гісторыі стварае яшчэ адну копію. Выдаліце ​​тэму пасля таго, як перанясеце патрэбныя фрагменты ў лакальную нататку.
  • Тэатр прадпрыемства: зацверджаны інструмент на працоўным месцы дапамагае захаваць інфармацыю; ён не робіць разумным уклейванне каронных каштоўнасцей.
  • Прапуск ратацыі пасля праслізгвання: выдаленне чата без адклікання ключа пакідае дзверы адчыненымі.

Практычны вывад

Тое, чаго ніколі не варта дадаваць у штучны інтэлект, — гэта не столькі спіс лаянак, колькі пастава: калі ён разблакуе сістэму, ідэнтыфікуе чалавека або прымусіць вас здрыгануцца ў кафэ, ён застаецца нестандартным. Дайце мадэлі эскіз з запаўняльнікамі, захоўвайце ўліковыя дадзеныя ў сховішчы і пытайцеся пра метады, якія вы ўжываеце па-за сеткай. Гэтая двухсекундная паўза — як карысны стажор з бясконцай кавай перастае ператварацца ў шафу для вашых ключоў ад дома.

Часта задаваныя пытанні

Чаго ніколі не варта дадаваць у чат-боты са штучным інтэлектам?

Калі гэта разблакуе сістэму, ідэнтыфікуе чалавека або прымусіць вас здрыгануцца ў кафэ, трымайце гэта па-за скрынкай. Гэта ўключае паролі, ключы API, токены, фразы-запыты, дзяржаўныя пасведчанні асобы, неапрацаваныя медыцынскія і фінансавыя запісы, матэрыялы NDA і асабістыя дадзеныя іншых людзей, асабліва дзяцей. Чат — гэта не замкнёная шуфляда; тэкст можна захоўваць, апрацоўваць і часам выкарыстоўваць для навучання ў залежнасці ад прадукту і налад. Перадайце мадэлі эскіз з запаўняльнікамі, а не ключы ад дома.

Чаму людзі ўпісваюць сакрэты ў штучны інтэлект, нават калі яны ведаюць, што рабіць?

Хуткасць робіць большую частку працы: непрыемная памылка прымушае ўвесь журнал выглядаць хутчэйшым, чым яго разборка. Чат-боты таксама здаюцца неасуджальнымі, таму інстынкт прыватнасці робіць перапынак на гарбату. Мадэлі звычайна патрэбна форма праблемы, а не імёны, токены, нумары рахункаў або твары на скрыншотах — гэта проста ўпрыгожванне. Двухсекундная паўза лепшая за перасадку асобы.

Ці бяспечна ўстаўляць паролі або ключы API ў інструменты ў стылі ChatGPT?

Не. Калі гэта можа нешта разблакіраваць, гэта не павінна быць у запыте — паролі, аднаразовыя коды, кукі сесіі, ключы SSH, радкі падключэння, насенне кашалька або прыватныя сертыфікаты. Мадэль не можа захоўваць сакрэт, як сябар; тэкст усё роўна перадаецца, запісваецца і можа захоўвацца ў гісторыі. Апішыце сакрэт па тыпу, выкарыстоўвайце запаўняльнікі, такія як REDACTED_KEY, змяняйце ўсё, што ўжо ўцекла, і захоўвайце рэальныя ўліковыя дадзеныя ў менеджары пароляў або сховішчы.

Якую асабістую інфармацыю мне трэба выдаліць перад запытам?

Ідэнтыфікацыйная інфармацыя хутка назапашваецца: нацыянальныя пасведчанні асобы, пашпартныя дадзеныя, адрасы, нумары тэлефонаў, білеты супрацоўнікаў або студэнтаў, а таксама поўныя імёны ў спалучэнні з датамі нараджэння або клінікамі. Мадэлі не патрэбны рэальны паштовы індэкс для напісання ліста — ёй патрэбны тон, неідэнтыфікацыйныя факты і жаданы вынік. Замяняйце імёны на пасады, абагульняйце месцазнаходжанне і адкідайце унікальныя нумары, калі вы не тэстуеце фармат на падробленым прыкладзе.

Ці магу я ўстаўляць кліенцкія файлы, пагадненні аб неразгалошванні або ўнутраны код у інструмент штучнага інтэлекту для спажыўцоў?

Ставіцеся да чату са спажыўцамі як да прадукту зручнасці, а не да карпаратыўнай кансультацыі. Калі вы не змесціце гэта ў асабісты чарнавік Gmail або не скажаце гэта ў райдшэрынгу, не змяшчайце гэта ў публічны чат са штучным інтэлектам — кліенцкія калекцыі, неапублікаваныя дарожныя карты, табліцы заработнай платы, канфідэнцыйныя юрыдычныя чарнавікі або крыніцы з унутранымі імёнамі хастоў. Апішыце дакумент, устаўце ачышчаны ўрывак, папрасіце структуру, якую вы ўжываеце афлайн, і выкарыстоўвайце зацверджаны інструмент для працоўнага месца, калі ён у вас ёсць, захоўваючы пры гэтым рэдагаванне па змаўчанні.

Як мне апрацоўваць інфармацыю пра здароўе або фінансы ў падказках штучнага інтэлекту?

Задавайце выдатныя пытанні без неапрацаваных запісаў. Агульныя тлумачэнні лепшыя за ўклейванне лабараторных панэляў, спісаў рэцэптаў, страхавых пасведчанняў, банкаўскіх выпісак або фатаграфій картак, якія таксама адлюстроўваюць кухонны стол. Выдаліце ​​нумары рахункаў і ўсё, што выглядае як паўнамоцтвы. Выкарыстоўвайце чат для рамкі і кантрольныя спісы, каб прадставіць іх прафесіяналу — не як ваш клініцыст, бухгалтар або шафа для дакументаў.

Чаму чужыя дадзеныя і скрыншоты асабліва рызыкоўныя?

Вы не адзіны чалавек, які ўстаўляецца: электронныя лісты калег, нумары тэлефонаў кліентаў, фатаграфіі дзяцей або транскрыпцыі званкоў могуць трапіць у сістэму без іх згоды. Каротка пішыце сваімі словамі, замяняйце імёны ролямі і ніколі не ўстаўляйце ідэнтыфікацыйныя дадзеныя дзяцей для «забавы». Здымкі экрана ўтойваюць панэлі закладак, URL-токены, імёны Slack і адкрытыя ўкладкі — абрэжце іх двойчы, размыйце ідэнтыфікатары або перадрукуйце памылку замест загрузкі пашпартоў або картак.

Якія больш бяспечныя шаблоны падказак усё яшчэ атрымліваюць надзейныя адказы ад штучнага інтэлекту?

Будзьце канкрэтнымі адносна праблемы і скупымі на ідэнтычнасць: мэта, абмежаванні, фіктыўныя ўваходныя дадзеныя, жаданы вынік. Запаўняйце ўнікальныя меткі-запаўняльнікі, запытвайце метад, а не поўны журнал вытворчасці, раздзяляйце задачу так, каб вы самі запаўнялі канфідэнцыйныя часткі, і выкарыстоўвайце сінтэтычныя прыклады. Выконвайце папярэдняе сканаванне перад устаўкай на наяўнасць знакаў @, доўгіх выпадковых радкоў, падобных на клавішы, занадта вялікіх лікаў і імёнаў, якія вы не змясцілі б на слайдзе. Дзесяць секунд акупляюць вечнасць.

Што рабіць, калі я ўжо ўставіў нешта нязручнае ў чат са штучным інтэлектам?

Спачатку перастаньце выкарыстоўваць гэты сакрэт — змяніце пароль, адклікайце ключ, анулюйце сесію. Выдаліце ​​чат, калі гэта дазваляе прадукт, праверце памяць або файлы праекта, паведаміце патрэбнаму чалавеку, ці былі гэта службовыя даныя, і сачыце за незвычайнымі ўваходамі ў сістэму. Калі гэта былі чужыя даныя, ачысціце іх і папярэдзьце пра гэта пры неабходнасці. Не «перазапісвайце» ўцечку дадатковымі тлумачэннямі; дадатковы кантэкст — гэта лішняя копія.

Як невялікая каманда можа перастаць перадаваць уліковыя дадзеныя ў штучны інтэлект для адладкі?

Выкарыстоўвайце кароткі апісанне, прысвечанае рэдагаванню: апішыце сакрэты па тыпах, фіктыўныя журналы з REDACTED_KEY і прыклады адрасоў электроннай пошты, укажыце, што было выдалена, і спытайце пра верагодныя прычыны, а таксама пра кантрольны спіс — не «падключыцца з дапамогай майго ключа». Дадайце кароткае правіла, вызначанае чалавекам — ніякіх уліковых дадзеных, ніякіх персанальных дадзеных кліента, ніякіх неапублікаваных лічбаў, рэдагаванне па змаўчанні — і пакажыце адзін добры, ачышчаны прыклад. Захоўвайце рэальныя ўліковыя дадзеныя ў сховішчы і ўжывайце выпраўленні ў аўтаномным рэжыме пасля таго, як мадэль прапануе метад.

Спасылкі

  1. NCSC — ncsc.gov.uk
  2. Адкрыты штучны інтэлект — help.openai.com
  3. Адкрыты штучны інтэлект — openai.com
  4. Клод — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Віктарына
1. Згодна з артыкулам, што ніколі нельга размяшчаць у публічным чаты са штучным інтэлектам?

2. Што азначае «сакрэты застаюцца афлайн» у гэтым кіраўніцтве?

3. Як трэба пазбавіцца ад асабістай інфармацыі перад падказкай?

4. Што не павінна ўключацца ў чат з кліентамі дзеля канфідэнцыяльнасці працы?

5. Якая звычка адпавядае згодзе і рэкамендацыі па рэдагаванні артыкула?


Артыкулы, якія вам могуць спадабацца пасля гэтага:

🔗 Найлепшыя інструменты бяспекі на базе штучнага інтэлекту
Адкрыйце для сябе магутныя платформы бяспекі на базе штучнага інтэлекту, якія выяўляюць і змякчаюць кіберпагрозы.

🔗 Чаму штучны інтэлект часам выдумляе
Зразумейце, чаму ў штучнага інтэлекту галюцынацыі, і даведайцеся, як знізіць рызыкі.

🔗 Як аўтаматызаваць задачы з дапамогай штучнага інтэлекту.
Укараніце бяспечныя працоўныя працэсы аўтаматызацыі, дадаўшы кантроль чалавека і строгія правілы.

🔗 Што такое тэхналогія штучнага інтэлекту?
Даследуйце асновы штучнага інтэлекту і распаўсюджаныя праблемы яго рэалізацыі.

Назад да блога