Безопасно ли пользоваться ChatGPT?

ChatGPT — это система искусственного интеллекта, разработанная для общения с пользователем в формате диалога. Название состоит из двух частей:

• Chat — общение в формате чата;
• GPT — аббревиатура от Generative Pre-trained Transformer.

Если говорить простыми словами, расшифровка GPT означает модель, которая была предварительно обучена на больших объёмах текстовой информации и умеет генерировать ответы на запросы пользователей.

ChatGPT не ищет ответы в интернете так же, как это делает поисковая система. Он анализирует запрос и формирует наиболее вероятный ответ на основе своих знаний и контекста беседы.

Сегодня подобные технологии используются в образовании, бизнесе, программировании, аналитике и многих других сферах.

Современные ИИ-системы способны решать широкий круг задач.

Наиболее популярные сценарии использования:

• поиск и объяснение информации;
• написание и редактирование текстов;
• помощь в обучении;
• составление инструкций и чек-листов;
• генерация идей и сценариев;
• помощь в программировании;
• анализ документов;
• перевод текстов;
• создание планов и рекомендаций.

Например, пользователь может попросить нейросеть объяснить принцип работы умного дома, помочь настроить домашнюю сеть или подготовить список мер по защите Wi-Fi.

При этом важно понимать, что chatgpt информация не всегда является абсолютно точной. Искусственный интеллект способен ошибаться, поэтому любые критически важные сведения необходимо дополнительно проверять (а в некоторых профессиях - например, у юристов, за предоставление недостоверных “галюцинаций” (в буквальном смысле выдуманных ИИ фактов) налагаются существенные штрафы более $100к).

Короткий ответ — да, при разумном использовании большинство пользователей могут безопасно работать с такими сервисами.

Однако безопасность зависит не только от самого сервиса, но и от того, какую информацию человек передаёт в диалог.

Основной риск связан не со взломом устройства через ChatGPT, а с добровольной передачей конфиденциальных данных. Пользователи нередко отправляют в чат:

• фотографии документов;
• паспортные данные;
• адреса проживания;
• банковские реквизиты;
• пароли;
• конфигурации домашней сети;
• информацию о системах видеонаблюдения и умном доме.

Такие сведения могут представлять ценность для злоумышленников и не должны использоваться в открытых запросах.
Отдельно стоит учитывать риск социальной инженерии. Некоторые люди настолько доверяют рекомендациям ИИ, что перестают перепроверять ответы. Поэтому вопрос «можно ли доверять чату GPT?» требует правильной постановки.

ChatGPT можно использовать как помощника и источник идей, но не как безусловный авторитет. Любые советы, связанные с финансами, медициной, безопасностью или управлением критически важными системами, должны дополнительно проверяться.

Особенно осторожно следует относиться к информации, касающейся домашней инфраструктуры. Если злоумышленник узнает модель вашего роутера, особенности настройки сети, расположение камер или параметры удалённого доступа, это может упростить подготовку атаки.

Использование искусственного интеллекта будет значительно безопаснее, если соблюдать несколько простых правил.

Связаны они с тем, что для всех бесплатных ассистентов (и в некоторых случаях даже платных) модель обучается на данных, которые ей передаются - поэтому ваша конфиденциальная информация рано или поздно может “появиться” у других пользователей этого же ИИ агента.

Не отправляйте в чат:

• пароли;
• коды подтверждения;
• данные банковских карт;
• паспортные сведения;
• персональные данные членов семьи;
• адреса объектов недвижимости.

Не стоит загружать подробные схемы:

• домашней сети;
• систем видеонаблюдения;
• умных замков;
• систем контроля доступа;
• настроек роутеров и сетевого оборудования.

ИИ способен ошибаться. Любые рекомендации по безопасности необходимо проверять через официальную документацию производителей оборудования и авторитетные источники.

Защищайте учётные записи, связанные с ИИ-сервисами, так же внимательно, как электронную почту или банковские приложения.

Если вы работаете удалённо, не следует использовать публичные ИИ-сервисы для передачи корпоративных документов без согласования с работодателем (а у большинства это уже прямо запрещено).

Дети активно используют нейросети для учёбы и развлечений. Важно объяснить им, какие данные нельзя публиковать в интернете и передавать искусственному интеллекту.

Безопасность начинается не с нейросети, а с инфраструктуры, в которую легко попасть, и через нее уже получить доступ к и секретам, и тем более к данным агентов:

• обновляйте роутер;
• используйте защищённый Wi-Fi;
• регулярно устанавливайте обновления на устройства умного дома;
• контролируйте список подключённых устройств.

ChatGPT и другие системы искусственного интеллекта становятся полезными помощниками как дома, так и на работе. При соблюдении базовых правил цифровой гигиены их использование не представляет серьёзной угрозы для большинства пользователей.

Главное помнить: безопасность зависит не только от технологии, но и от того, как именно она используется. Не передавайте конфиденциальные данные, проверяйте важную информацию и внимательно относитесь к защите домашней инфраструктуры.

Если в вашем доме используются камеры, умные замки, системы автоматизации, удалённый доступ или другие IoT-устройства, важно обеспечить безопасность всей экосистемы, а не только отдельных сервисов.

Специалисты «Гладиаторы ИБ» помогут провести аудит домашней инфраструктуры, выявить потенциальные риски и выстроить защиту умного дома по принципам корпоративной кибербезопасности.