Главное

23 сентября АРПП сообщила об опросе более 50 компаний ассоциации: базовый контроль безопасности ИИ внедряют 23%. Переносить этот результат на весь российский бизнес нельзя. Сообщение организатора.

Разберите одну рабочую задачу

Предлагаем начать не с общего запрета, а с описания конкретного сценария. Например, сотрудник готовит с помощью ИИ черновик письма партнёру. Какие сведения он вводит, чего ждёт в ответ и кто принимает окончательное решение об отправке?

Для обсуждения можно использовать такой шаблон:

ПолеЧто записать
ЗадачаДля чего нужен помощник
Входные сведенияЧто планируется передать сервису
Выбранный продуктНазвание и используемый режим работы
ОтветственныйКто согласует сценарий
РезультатКто проверяет и использует ответ

Это редакционный бланк для подготовки разговора, не заключение о допустимости обработки данных.

Не путать вопрос о данных с вопросом о качестве

В разборе NCSC рассматривается чувствительность информации в запросах. Для конкретной организации нужны актуальные условия её сервиса и оценка сценария. По факту ввода данных нельзя автоматически заключить, что они стали публичными.

Если помощнику выданы права на действия, стоит отдельно описать эти действия и порядок контроля. Материал NCSC о prompt injection объясняет, почему недоверенный текст может стать источником посторонних инструкций.

Первый полезный итог — один понятный и согласованный сценарий, который можно проверить на практике.

Источники

Вернуться в архив