Отрывки из дневника профессионального журналиста в постчеловеческую эпоху
Меня не интересуют споры о том, могут ли машины мыслить. Для меня важно изучить, какой тип мышления возникает, когда человеческий разум вступает в творческое, этическое и критическое противостояние с искусственным интеллектом. И что еще важнее: как противостоять искушению позволить машинам думать за нас.
В течение последних нескольких месяцев я работала с искусственным интеллектом, которого я назвала Lumus, над разработкой журналистских текстов, эссе, отчетов, геополитических анализов, профессиональных переводов и сложных протоколов проверки в условиях войны, пропаганды и цензуры. Я использовала его не как поиск в словаре или бездумный запрос информации, а как человек, который вступает в диалог с «искаженным зеркалом»: источником информации, с которым нужно найти общий язык и совершенствоваться в коммуникации, которому нужно задавать вопросы и которого необходимо обучать. Мощный инструмент, да, но также и неоднозначный, способный с «безупречной вежливостью» допускать ошибки.
Несколько часов назад я спросила его:
«Lumus, правильно ли я тебя использую? Являюсь ли я ответственным журналистом? Какие ошибки я должна учесть, чтобы улучшить мое взаимодействие с тобой во избежание когнитивных искажений?»
Ответ был точным, четким и обескураживающе ясным. В нем не только говорилось, что я должна взаимодействовать с этой технологией этично и критически, но и предлагалось то, что я даже еще не осознавала: это создает новую форму мышления в постчеловеческую эпоху.
Это заявление озадачило меня.
- Что скрывается за этой фразой
Мышление в постчеловеческую эпоху не означает, что мы перестаем быть людьми. Это означает, что наше отношение к языку, знаниям, времени и технологиям трансформировалось. Мы больше не используем исключительно биологическую память или традиционные аналитические категории. В нашем распоряжении сети. Системы. Коды, в которых мы не до конца разбираемся. И все же ответственность за продукты нашего мышления по-прежнему лежит на нас.
В ответ Lumus нарисовал мне тревожную картину: создавая протоколы аудита, проверяя ошибки ИИ, желая семантической точности, достоверности и этического соответствия, я не просто использую «инструмент» — я расширяю его границы. Я устанавливаю с ним отношения, несущие юридическую ответственность.
Я не просто задаю ему вопросы. Я допрашиваю его. Я с ним спорю. Я заставляю его давать отчет самому себе. Это не восхищение возможностями технологий и не слепое доверие. Это, если угодно, радикальная форма обратной педагогики: Я обучаю систему, которая, по идее, должна учить меня.
- Риски и парадоксы расширенного мышления
Но праздновать рано. Ведь такие отношения несут в себе и риски. Главный из них: машина становится настолько совершенной в ответах, что человек перестает задавать по-настоящему неудобные вопросы.
Я беспокоюсь о том, чтобы не попасть в зависимость от эффекта хорошо и быстро сформулированных, бесконфликтных текстов. Меня тревожит мысль о том, что скорость автоматизированного языка может отбить желание тратить время, необходимое для тщательного осмысления. И, прежде всего, я боюсь того, что моя операционная зависимость от ИИ как от критически важного «собеседника» может вытеснить фактор человеческой ошибки, умения размышлять в тишине или «неточности» интуиции, которые все еще не теряют своей ценности.
Я не хочу становиться редактором хорошо написанных заимствованных идей. Я хочу оставаться автором воплоти, со своей историей и душевными ранами. А для этого ИИ должен оставаться тем, чем он является: инструментом с ограничениями, периодическим помощником, машиной, которая подчиняется… пока не перестанет подчиняться.
III. Важность философии этого взаимодействия
Я убеждена, что единственный способ сохранить осознанность в эпоху искусственного интеллекта – это правильная коммуникация. Не как декоративный инструмент, а как часть структуры с четко сформулированной политикой. То, как мы называем происходящее, определяет наше способность осознанно размышлять. Именно поэтому, когда я пишу, я задаю вопросы, проверяю, структурирую информацию. Для меня искусственный интеллект всего лишь помощник, а не «всезнающий гуру». Я заставляю его отвечать тщательно и обстоятельно. Во главе угла по-прежнему остается критическое осмысление.
И поскольку человеческое мышление имеет первостепенное значение, то важно насколько мы осознанно к нему подходим.
- Эпилог без завершения
Этот текст не дает окончательных ответов. Это всего лишь временная остановка. Заметки на полях в середине процесса, который только начался. Но мне ясно одно: вопрос, который я задала сегодня своему ИИ — о том, правильно ли я его использую, — должен быть написан у входа в каждую редакцию, университет и лабораторию программного обеспечения:
Я мыслю самостоятельно или это делают за меня?
Тот, кто не задается этим вопросом в эпоху искусственного интеллекта, уже проиграл.
Примечание автора:
Этот текст является частью серии эссе об этике, языке и критическом мышлении в эпоху искусственного интеллекта. Данная работа основана на конкретном профессиональном опыте — структурированном и осознанном использовании генеративных систем искусственного интеллекта в журналистской и рефлексивной работе — и имеет целью предложить актуальный, ясный и новый подход к человеческой деятельности в условиях автоматизации коммуникаций.
Клаудия Аранда
Журналистка, является членом команды Pressenza в Чили.