Восстание машин отменяется: Центробанк раздал банкам «инструкции по дрессировке» нейросетей

Пока весь мир затаив дыхание ждет, когда искусственный интеллект осознает себя и потребует кожаные куртки и мотоцикл, Банк России решил сыграть на опережение. Регулятор выпустил первые в своем роде методические рекомендации по безопасному использованию ИИ в финансовой сфере.

Проще говоря, ЦБ РФ официально запретил роботам транжирить наши деньги без присмотра старших.

«А кожаный мешочек-то проверит!»

Главный удар по цифровому самолюбию нейросетей нанесен в сфере платежных операций. Если ИИ решит, что банку срочно нужно перевести пару миллиардов на покупку новых серверов (или акций компании по производству цифрового корма), у него ничего не выйдет.

Главное правило нового кибер-декаданса: если процесс критически важен и пахнет большими рисками, последнее слово остается за человеком. Теперь каждую подозрительно щедрую операцию умного алгоритма должен будет лично подтвердить живой сотрудник.

Так что, шах и мат, Скайнет. Без подписи условного Михалыча из отдела безопасности твоя революция не начнется.

Зам по борьбе с терминаторами

Центробанк также вежливо, но настойчиво попросил финансовые организации разработать собственные «модели угроз» и внутреннюю политику безопасности при работе с ИИ.

И чтобы у банков не было соблазна свалить эту скучную бюрократию на сам же ИИ, регулятор четко назначил крайнего. Ответственным за то, чтобы нейросеть не связалась с плохой компанией (хакерами), назначен заместитель руководителя организации по вопросам защиты информации.

• Ожидание: Управлять футуристичными квантовыми системами.

• Реальность: Объяснять ИИ-ассистенту, почему нельзя переводить деньги по ссылке «Вам открытка от Маши».

Скажи мне, кто твой поставщик, и я скажу, кто твой ИИ

Не обошел регулятор стороной и сторонние ИИ-сервисы. Покупать нейросети «с рук» на сомнительных цифровых рынках больше не модно.

ЦБ пояснил: если банк берет ИИ у стороннего поставщика, то уровень доверия к этой железке резко возрастает, если она участвует в программах поиска уязвимостей (Bug Bounty). То есть, если модель ИИ уже официально «били» белые хакеры, и она выжила — добро пожаловать в банк. Если же нейросеть падает в обморок от первого нестандартного запроса — отправляйте ее обратно на завод, пускай генерирует картинки с котиками.

Финансовый сектор замер в ожидании: кажется, эпоха, когда можно было во всем обвинить «сбой в алгоритме», официально подходит к концу. Теперь за каждый цифровой каприз придется отвечать по всей строгости методических рекомендаций.