Исследовательская группа Техасского университета в Арлингтоне разработала программное обеспечение, которое препятствует созданию фишинговых сайтов чат-ботами с искусственным интеллектом, такими как «ChatGPT».
По словам участников группы, это программное обеспечение позволяет чат-ботам с искусственным интеллектом распознавать и отклонять запросы на создание фишинговых сайтов.
Исследовательская группа успешно обучила эту модель распознавать различные запросы, используемые для создания фишинговых сайтов, а также распознавать ключевые слова и реагировать на них. Это повышает способность отклонять и блокировать подозрительные запросы.
Следует отметить, что в дальнейшем группа намерена связаться с крупными технологическими компаниями, управляющими этими чат-ботами, в том числе с Google и OpenAI, чтобы интегрировать модель в более широкие стратегии обеспечения безопасности ИИ.
