ChatGPT способен создавать забавные и смешные вещи, если попадает в правильные руки. Однако есть и тёмная сторона искусственного интеллекта, которая позволяет создать серьезные проблемы для будущего IT-сферы в целом. Дело в том, что несколько экспертов в области информационной безопасности недавно подчеркнули опасный потенциал ChatGPT и его способность создавать полиморфные вредоносные программы, которые практически невозможно определить с помощью текущих методов обнаружения и реагирования на угрозы. Эксперты считают, что традиционный протокол не может справиться с потенциальным вредом, который может причинить ChatGPT.
Код, который может мутировать (именно из-за этого его и называют полиморфным), может быть гораздо сложнее обнаружить, так как он будет скрываться различными передовыми методами. Большинство моделей вроде ChatGPT созданы с установленными фильтрами, чтобы избегать генерации неприемлемого контента с точки зрения их создателей. Это может варьироваться от конкретных тем до, в данном случае, вредоносного кода. Однако пользователи нашли способы обойти эти фильтры. Соответственно, чат-бот ChatGPT позволяет при определённом алгоритме команд и запросов сделать действительно рабочий вредоносный код. И на самом деле это очень серьёзная проблема, потому что даже люди без опыта программирования за час могут создать весьма серьёзный вредонос для вложения в почтовые письма, например, и украсть данные другого человека.
