AmigaОбучение ИИ
Модуль 6 · Добросовестность · урок 12 из 13

Добросовестность: ответственность, прозрачность, безопасность

11 мин чтения▶ есть видеоверсия

Первые три навыка — про то, как получить хороший результат. Четвёртый — про то, как при этом не навредить: клиенту, коллегам, компании, себе. Добросовестность звучит как что-то из кодекса этики, но на практике это набор очень конкретных привычек, каждая из которых защищает от конкретной неприятности. Разберём три составляющие: что вы отправляете в модель, что говорите об ИИ окружающим и за что подписываетесь.

Добросовестность в использовании: что уходит в модель

Первая составляющая — осознанный выбор инструмента и того, что вы в него отправляете.

Данные клиента. В агентстве через руки проходят чужие данные: базы пользователей, финансовые условия, неанонсированные продукты, доступы к системам, содержимое под NDA. Отправить их в ИИ-сервис «чтобы модель лучше поняла контекст» — это передача данных третьей стороне. Условия обработки у разных сервисов и тарифов различаются: где-то данные не используются для обучения и удаляются, где-то — нет. Если вы не знаете точно, какие условия действуют у вашего инструмента, считайте, что данные покидают компанию.

Практические правила:

  • Персональные данные пользователей (имена, телефоны, почты, адреса) в модель не отправляем. Для задач вроде «проанализируй обращения» — анонимизируем сначала.
  • Доступы, ключи, пароли, токены — никогда и никуда. Если модель нужна для работы с системой, доступ ей даётся через инструменты с ограниченными правами, а не вставкой ключа в чат.
  • Содержимое под NDA и неанонсированные продукты — только в инструменты, для которых компания подтвердила условия обработки. Если сомневаетесь, спросите руководителя до, а не после.
  • Внутренние финансы, переговорные позиции, оценки сотрудников — та же категория.

Хороший тест: «Готов ли я, чтобы этот текст увидел незнакомый человек?» Если нет — подумайте, можно ли решить задачу без него или с его анонимизированной версией.

Выбор инструмента. Осознанность распространяется и на то, какие ИИ-инструменты вы используете. Расширение для браузера, которое «улучшает тексты», читает всё, что вы вводите. Бесплатный сервис для расшифровки звонков хранит записи клиентов неизвестно где. Прежде чем подключать новый инструмент к рабочим данным, узнайте, что он с ними делает, и согласуйте с тем, кто в компании отвечает за безопасность.

Права агентов. Чем самостоятельнее ИИ, тем важнее ограничить, что он может сделать. Агент с доступом к продакшн-базе и правом удаления — это риск, даже если инструкции хорошие. Давайте минимально необходимые права, требуйте подтверждения на необратимые действия, работайте на копиях там, где можно.

Прозрачность: кому говорить об участии ИИ

Вторая составляющая — честность о роли ИИ в вашей работе с теми, кому это важно знать.

Не все должны знать всё. Никто не ждёт пометки «написано с помощью ИИ» на каждом письме, как никто не пишет «набрано на клавиатуре». Критерий — влияет ли участие ИИ на то, как человек воспримет результат или примет решение.

Когда говорить нужно:

  • Коллеге, который принимает вашу работу. Тестировщик передаёт чек-лист: «Сгенерирован из ТЗ, проверил покрытие требований, формулировки не вычитывал». Разработчик отправляет на ревью: «Код написан с Claude Code, тесты проходят, но логику миграции не проверял глубоко». Это не признание слабости, а информация, которая помогает ревьюеру распределить внимание.
  • Клиенту, если это влияет на его решения. Если аналитический отчёт частично сделан моделью, а клиент на его основе выбирает стратегию, он вправе знать, какие части проверены человеком, а какие — нет. Формат зависит от отношений; часто достаточно фразы в методологии: «первичный разбор обращений выполнен с помощью ИИ и выборочно проверен».
  • Всем, если ИИ выступает от вашего имени. Бот, который отвечает клиентам, должен представляться ботом. Письмо, которое отправил агент, не должно выглядеть как написанное вами лично, если вы его не читали.
  • Когда есть договорённость или правило. У некоторых клиентов есть условия по использованию ИИ; у компании могут быть свои. Их надо знать.

Когда не нужно: если ИИ помог переформулировать абзац, найти опечатки, подобрать структуру — это инструмент, как проверка орфографии, и вы отвечаете за результат полностью.

Простое правило: если вам неловко сказать, что здесь помог ИИ, — значит, либо вы не проверили результат, либо нарушили чью-то договорённость. В обоих случаях проблема не в раскрытии.

Ответственность за результат: чья подпись

Третья составляющая самая короткая и самая важная. Всё, что вы отправили дальше, — ваше. Письмо клиенту, ТЗ в разработку, код в репозиторий, отчёт руководителю. Если там ошибка, её допустили вы, а не модель. «Это ИИ написал» не работает как оправдание ни перед клиентом, ни перед командой, ни перед регулятором.

Из этого следует:

Проверка пропорциональна последствиям. Внутренний черновик можно отправить с беглым взглядом. Коммерческое предложение, договор, публичный текст, код в прод — только после полной проверки, о которой был урок про различение. Если на полную проверку нет времени — не отправляйте, а скажите, что не готово.

Не отправляйте то, что не поняли. Разработчик, который вливает код, работу которого не может объяснить, не сможет его и починить. Аналитик, который включил в ТЗ раздел, смысла которого не понимает, не сможет ответить на вопрос клиента. Если модель сделала что-то, чего вы не понимаете, — спросите её объяснить, а если объяснение не помогло, не используйте.

Помните, кто пострадает. Выдуманный факт на сайте клиента — это клиент, который отвечает перед своими покупателями. Утечка персональных данных — это люди, чьи данные утекли. Ответственность — не абстракция, а конкретные люди дальше по цепочке.

Как это выглядит в командной работе

Добросовестность одного человека помогает, но её недостаточно. Несколько практик на уровне команды:

  • Общий список того, что нельзя отправлять в ИИ, — в одном месте, коротко, с примерами.
  • Пометки об участии ИИ и глубине проверки в передаче работы: в описании merge request, в комментарии к документу, в сообщении коллеге.
  • Инструкции для агентов (CLAUDE.md, системные промпты) с явными запретами и требованием подтверждения на опасные операции.
  • Разбор ошибок без поиска виноватого: если выдуманный факт дошёл до клиента, вопрос не «кто», а «на каком этапе проверка не сработала и что дописать в инструкцию».

Попробуйте сами

10–15 мин на рабочем месте
  1. Просмотрите последние десять ваших запросов к ИИ. Есть ли среди них данные, которые по правилам выше отправлять не стоило? Если да — подумайте, как решить ту же задачу с анонимизированной версией, и в следующий раз сделайте так.
  2. В следующей передаче работы коллеге (MR, документ, чек-лист) добавьте одну строку: что делал ИИ и что вы проверили. Посмотрите, как это повлияет на вопросы ревьюера.
  3. Выясните, какие условия обработки данных действуют у вашего основного ИИ-инструмента на рабочем тарифе, и кто в компании отвечает за согласование новых инструментов. Если не знаете, у кого спросить, — это уже полезное наблюдение для команды.

Коротко

  • Персональные данные, доступы, NDA-контент, внутренние финансы — не в модель, если условия обработки не подтверждены компанией.
  • Новый ИИ-инструмент — сначала выяснить, что он делает с данными, потом подключать.
  • Агентам — минимальные права и подтверждение на необратимые действия.
  • Говорить об участии ИИ нужно тем, для кого это влияет на восприятие или решение: ревьюеру, клиенту, адресату бота.
  • Всё, что вы отправили дальше, — ваше. Проверка пропорциональна последствиям; не отправляйте то, чего не поняли.
  • На уровне команды: список запретов, пометки в передаче работы, инструкции для агентов, разбор без виноватых.

Видеоверсия

Сценарий озвучки · 480 слов, ≈ 4 мин

Первые три навыка были про то, как получить хороший результат. Четвёртый — про то, как при этом не навредить: клиенту, коллегам, компании, себе. Добросовестность звучит как что-то из кодекса этики, но на практике это несколько очень конкретных привычек.

Первая составляющая — что вы отправляете в модель. Через агентство проходят чужие данные: базы пользователей, финансовые условия, доступы, содержимое под соглашением о неразглашении. Отправить их в ИИ-сервис «для контекста» — это передача данных третьей стороне. Условия обработки у сервисов разные. Если вы не знаете точно, какие действуют у вашего инструмента, считайте, что данные покидают компанию. Правила простые. Персональные данные пользователей — не отправляем, для анализа обращений сначала анонимизируем. Ключи, пароли, токены — никогда и никуда. Всё, что под соглашением о неразглашении, — только в инструменты, условия которых подтвердила компания. Хороший тест: готов ли я, чтобы этот текст увидел незнакомый человек?

Сюда же — выбор инструмента. Расширение для браузера, которое улучшает тексты, читает всё, что вы вводите. Бесплатный сервис расшифровки хранит записи звонков неизвестно где. Прежде чем подключать новый инструмент к рабочим данным, узнайте, что он с ними делает. И права агентов: чем самостоятельнее ИИ, тем важнее ограничить, что он может сделать. Минимальные права, подтверждение на необратимые действия, работа на копиях.

Вторая составляющая — прозрачность. Никто не ждёт пометки «написано с ИИ» на каждом письме. Критерий: влияет ли участие ИИ на то, как человек воспримет результат или примет решение. Коллеге, который принимает работу, — говорим: «чек-лист сгенерирован из ТЗ, покрытие проверил, формулировки не вычитывал». Это не признание слабости, а информация, которая помогает ревьюеру распределить внимание. Клиенту — если это влияет на его решения: какие части отчёта проверены человеком, а какие нет. Всем — если ИИ выступает от вашего имени: бот должен представляться ботом. Простое правило: если вам неловко сказать, что здесь помог ИИ, значит, либо вы не проверили результат, либо нарушили чью-то договорённость. Проблема не в раскрытии.

Третья составляющая — самая короткая и самая важная. Всё, что вы отправили дальше, — ваше. Письмо, ТЗ, код, отчёт. Если там ошибка, её допустили вы. «Это ИИ написал» не работает как оправдание ни перед клиентом, ни перед командой. Отсюда три следствия. Проверка пропорциональна последствиям: внутренний черновик — беглый взгляд, договор или код в прод — только после полной проверки, а если времени нет, скажите, что не готово. Не отправляйте то, чего не поняли: разработчик, который не может объяснить код, не сможет его починить. И помните, кто пострадает: выдуманный факт на сайте клиента — это клиент перед своими покупателями, утечка данных — это конкретные люди.

На уровне команды это выглядит так. Общий короткий список того, что нельзя отправлять в ИИ. Пометки об участии ИИ и глубине проверки при передаче работы. Инструкции для агентов с явными запретами. И разбор ошибок без поиска виноватого: не «кто», а «на каком этапе проверка не сработала и что дописать в инструкцию».

Задание на сегодня: просмотрите последние десять запросов к ИИ и проверьте, не было ли там данных, которые отправлять не стоило. И в следующей передаче работы коллеге добавьте одну строку о том, что делал ИИ и что вы проверили.

Отметка хранится только в вашем браузере