доктор филологических наук, профессор кафедры английской филологии
Dr. Sci. (Philology), Prof., Department of English Philology, Faculty of English Philology
доктор филологических наук, профессор, заведующая кафедрой английской филологии
Dr. Sci. (Philology), Prof., Department Head, Department of English Philology, Faculty of Romano-Germanic Philology
Цель состоит в попытке исследовать влияние основных механизмов генерирования фейковой информации на социум в современном медиадискурсе. Гипотеза исследования заключается в том, что с развитием возможностей искусственного интеллекта (ИИ) генерирование фейков происходит с помощью глубинных когнитивно-лингвистических моделей, поскольку «сильный» / «strong» ИИ основан на генеративной архитектуре нейросети, которая способна «учиться», решать сложные комплексные задачи без какого-либо вмешательства со стороны человека, что представляет собой экзистенциональную угрозу существования цивилизации.
Процедура и методы. При анализе эмпирического материала нами использовался ряд методов и приёмов для анализа текстов, сгенерированных с применением нейросетей, таких как контекстуальный анализ, метод обобщения и систематизации, компонентный и сопоставительный анализ.
Результаты. Нами была проанализирована фейковая информация, сгенерированная нейросетями, а также был проведён эксперимент проверки степени правдивости информации, сгенерированной «ChatGPT», которая оказалась на 99% фейком. Кроме того, был проведён эксперимент с использованием опции «аргумент» агрегатора нейросети «GPTunnel», цель которого состояла в том, чтобы выявить качество аргументации на заданную тему. Эксперимент показал, что заявленное «умение логически мыслить и учитывать аргументы-опровержения» не подтвердилось. Однако стремительно развивающийся ИИ и увеличивающиеся возможности нейросетей, возможно, через совсем небольшое время создадут более усовершенствованную нейросеть, способную генерировать логически выстроенную аргументацию.
Теоретическая и / или практическая значимость. Результаты научного исследования вносят вклад в более глубокое понимание механизмов генерирования фейков с помощью генеративных нейросетей в современном медиадискурсе, что в перспективе поможет специалистам в области лингвистики решать проблемы, связанные с идентификацией текстов, созданных ИИ.
Aim. To try to investigate the impact of the main mechanisms of fake information generation on society in the modern media discourse. The hypothesis of the study is that with the development of artificial intelligence (AI) capabilities, the generation of fake information occurs with the help of deep cognitive-linguistic models, because "strong" AI is based on the generative architecture of neural networks, which is able to "learn", to solve complex tasks without any human intervention, which is an existential threat to civilization.
Methodology. In analyzing the empirical material, we used a number of methods and techniques to analyze the texts generated using neural networks, such as contextual analysis, generalization and systematization method, component and comparative analysis.
Results. We have analyzed fake information generated by neural networks, and also conducted an experiment to check the degree of truthfulness of information generated by ChatGPT which turned out to be 99% fake. In addition, we conducted an experiment using the "argument" option of the GPTunnel neural network aggregator, the purpose of which was to reveal the quality of argumentation on a given topic. The experiment showed that the claimed "ability to think logically and consider arguments" was not confirmed. However, rapidly developing AI and increasing capabilities of neural networks, might in a very short time create a more advanced neural network capable of generating logically constructed argumentation.
Research implications. The results of the research contribute to a deeper understanding of the mechanisms of fake generation using generative neural networks in modern media space, which in the future will help linguists solve problems related to the identification of texts generated by AI.
The authors declare that there are no conflicts of interest present.