ИИ теперь может украсть ваши пароли почти со 100% точностью

Наоборот, если злоупотреблять для плохого поведения, вред, который наносит ИИ, неизмерим.

Эксперты по компьютерным наукам из Корнельского университета (США) недавно обнаружили «новый трюк» для инструментов ИИ для кражи ваших данных: нажатия клавиш. Команда подробно описала атаку, управляемую искусственным интеллектом, которая может украсть пароли с точностью до 95%, просто слушая, что вы печатаете на клавиатуре.

Соответственно, исследователи провели эксперимент с обучением модели ИИ, которая анализирует звук нажатия клавиш, и развернули ее на размещенном телефоне. Встроенный микрофон телефона прослушивал нажатия клавиш на MacBook Pro и смог воспроизвести их с точностью 95% — это самая высокая точность, которую когда-либо регистрировали исследователи, без использования больших языковых моделей.

Команда также проверила точность модели с помощью вызова Zoom, при котором нажатия клавиш записывались с помощью микрофона ноутбука во время разговора. В этом тесте ИИ воспроизводил нажатия клавиш с точностью 93%. То же самое для Skype, точность составляет 91,7%.

Не спешите сомневаться в шумной механической клавиатуре, которой вы пользуетесь каждый день. Стоит отметить, что громкость клавиатуры имеет мало общего с точностью атаки. Вместо этого модель ИИ обучается на форме волны, величине и продолжительности каждого нажатия клавиши для распознавания. Например, вы можете нажимать клавишу на долю секунды медленнее, чем другие, из-за ваших привычек печатать, и это будет учтено моделью ИИ.

По сути, эта атака будет иметь форму вредоносного ПО, установленного на вашем телефоне или другом соседнем устройстве с микрофоном. Затем он собирает данные о нажатиях клавиш, молча слушая их с помощью микрофона зараженного устройства, и отправляет эти данные в исследовательскую модель искусственного интеллекта. Исследователи использовали для атаки CoAtNet, классификатор изображений с искусственным интеллектом, и обучили модель 36 нажатиям клавиш на MacBook Pro, по 25 нажатий каждая.

Этот вид атаки довольно опасен, сколько бы жертва не меняла клавиатуру, она не сработает. Даже самые лучшие клавиатуры могут стать жертвами изощренного метода атаки этой модели ИИ. Однако способ его ограничения не так уж и сложен. Например, вам следует избегать ввода паролей и использовать такие функции, как Windows Hello и Touch ID. Вы также можете инвестировать в хороший менеджер паролей, который не только позволяет избежать риска ввода паролей, но и позволяет использовать случайные пароли для всех ваших учетных записей.