Путин призвал к бережной цифровизации: где ИИ притормозят и кого это зацепит первым
Сегодня Владимир Путин публично ответил на вопрос, пользуется ли он нейросетями, — об этом пишут «Ведомости». В тот же день, по данным РАПСИ, он призвал к «бережной цифровизации» сфер, чувствительных для человека.
Третье сообщение — от «Интерфакса»: стало известно о законопроекте, который описывает взаимодействие ИИ с «естественным интеллектом». То есть с нами.
Сам ответ президента оставлю «Ведомостям». Для повседневной жизни важнее вторая новость: три сообщения за день складываются в понятный сигнал — нейросети пустят не везде и не сразу.
Чувствительные сферы: где ошибка дороже
Полного списка в сообщениях агентств нет, и гадать за президента я не буду. Но по логике это области, где ошибка алгоритма бьёт по конкретной судьбе, а отменить её трудно.
- Медицина: диагноз, назначение, расшифровка снимка.
- Суд: решение, от которого зависит свобода или имущество.
- Образование: оценка, экзамен, поступление.
- Госуслуги: пособие, справка, отказ в выплате.
Общее у них одно: человек здесь зависим. Чат-бот магазина можно закрыть и уйти к конкуренту. С отказом в пособии так не получится.
Машине верят слишком легко
У психологов есть термин — автоматизационное смещение. Когда подсказку даёт система, человек склонен с ней соглашаться, даже если собственный опыт говорит другое. Врач видит вердикт алгоритма и перепроверяет уже не так придирчиво.
Есть и обратный эффект. Стоит алгоритму один раз заметно ошибиться, и доверие к нему падает резче, чем к человеку с такой же ошибкой. В ряде исследований это называют неприятием алгоритмов.
Выходит, быстрая цифровизация рискует дважды: сначала слепым доверием, потом слепым отказом. Мне кажется, слово «бережная» как раз про это.
Что почувствует обычный пользователь
Я попросил нейросеть прикинуть, как «бережный» режим выглядит на практике. Оговорка честная: текста законопроекта у неё нет, она исходит из самой формулировки, так что дальше — прогноз.
Первыми перемены заметят те, кто уже общается с ботами поликлиник и порталов услуг. Вероятный сценарий: машина готовит черновик, а последнее слово остаётся за человеком. Значит, раньше всех это зацепит врачей и чиновников — им подписываться под каждым таким решением.
Второе ожидаемое следствие: вам станут сообщать, что ответ дал алгоритм, и оставят возможность позвать живого специалиста. Цена понятна — часть сервисов будет работать медленнее, чем могла бы.
Где нейросеть откровенно гадает: сроки, ответственность за нарушения, точный перечень сфер. Это определит текст закона, а не логика.
Скорость в обмен на право поговорить с живым человеком — размен непростой. В какой сфере вы сами ни за что не доверили бы решение алгоритму?
