книги2 / 224-1

A. D. Arsenteva

M. O. Nikolaeva

Chelyabinsk Institute of Professional Education Development

Chelyabinsk (Russia)

THE ROLE OF ARTIFICIAL INTELLIGENCE ALGORITHMS IN THE DISTRIBUTION AND TRACKING OF

DESTRUCTIVE CONTENT

In the article, the authors consider the principles of the recommendation feed in social networks and explain the importance of monitoring destructive content. Such records have an impact on the psyche of users, so their distribution should be limited. The article also identifies the reasons why algorithms can skip ambiguous publications in user recommendation feeds.

Key words: recommendation feed, content, artificial intelligence, machine learning, social networks.

Арсентьева Анастасия Дмитриевна, младший научный сотрудник сектора исследований педагогических инструментов профилактики деструктивных проявлений в образовательной среде Научно-исследовательского центра мониторинга и профилактики

деструктивных явлений в образовательной среде, Челябинский институт развития профессионального образования,

anastasia_arsenteva@mail.ru.

Николаева Милана Олеговна, младший научный сотрудник сектора мониторинга и анализа деструктивных явлений в образовательной среде Научно-исследовательского центра

мониторинга и профилактики деструктивных явлений в образовательной среде, Челябинский институт развития профессионального образования, nikolaeva-15@bk.ru.

570

А. С. Белодед

Городской Дворец творчества детей и молодежи «Одаренность и технологии» Екатеринбург (Россия)

TEXT-TO-IMAGE НЕЙРОСЕТИ КАК СРЕДСТВО РАЗВИТИЯ ИНФОРМАЦИОННОЙ ГРАМОТНОСТИ ПОДРОСТКОВ

В статье изучается проектирование подсказок для генеративных (текст в изображение) нейросетей в контексте внедрения в образовательный процесс. В основе работы лежит педагогический эксперимент, в результате которого автор приходит к выводу, что данная практика может способствовать развитию элементов информационной грамотности обучающихся.

Ключевые слова: генеративные нейросети, информационная грамотность, проектирование подсказок, модификатор, образовательный процесс.

Введение. 2021–2022 гг. стали переломными в развитии систем

преобразования текста в изображения. На основе глубокого обучения эти системы могут генерировать цифровые изображения из коротких описательных текстов, называемых подсказками. В англоязычном онлайн-сообществе практика и навыки написания

подсказок известны под термином «проектирование текстовых подсказок». Проектирование подсказок – это новая область исследований в сфере взаимодействия человека с компьютером, посвященная тому, как сформулировать эффективные подсказки ввода для предобученных генеративных моделей [9].

Контекст исследования. Ни в одном из предыдущих исследований не изучались преобразующие текст в изображение нейросети и проектирование текстовых подсказок в контексте обучения школьников. Данный факт, а также предположение о том, что описанные выше технологии могут стать эффективным методом обучения информационной грамотности, определяют гипотезу и актуальность работы.

571

Цель исследования состоит в выявлении потенциала метапредметной составляющей проектирования подсказок для генеративных нейросетей, которая заключается в развитии общей информационной грамотности подростков.

Работа основана на двухмесячном педагогическом эксперименте по организации деятельности педагога и обучающихся, в ходе которого анализировалось, как навык проектирования текстовых подсказок для генерации изображений может способствовать развитию таких элементов информационной грамотности детей, как эффективность поиска информации в интернете, емкое и законченное построение предложений в устной и письменной речи, осознанное потребление графического контента и умение его классифицировать и др.

Материал исследования. В англоязычном сегменте интернета появляется онлайн-экосистема ресурсов и руководств, которые

помогают и учат писать подсказки ввода для систем преобразования текста в изображение (например, [6, 1, 4, 8]).

Общий вид текстовой подсказки представляет собой следующую структуру: [Художественная форма], [тема], [стиль художника], [деталь 1], ..., [деталь n].

Тема является наиболее важной частью подсказки. [5, 3]

Здесь описывается то, что автор желает увидеть.

Остальные части шаблона принято называть модификаторами, и они не носят обязательный характер, но могут в значительной степени повлиять на полученное изображение. Так, художественная форма является визуальным выражением тематического содержания. Художественные формы достаточно разнообразны [5], например, фотография, рисунок маслом, 3D-рендер и др.

Другой частью подсказки, которая может сильно повлиять на результат сгенерированного изображения, является стиль или художник [2, 3]. Для включения стиля художника или комбинации стилей художников в текстовую подсказку необходимо указать «в стиле [художник]» после темы запроса [7].

Добавление таких деталей, как прилагательные и усилители качества, может значительно повлиять на общую эстетику изображения [3]. Примерами таких деталей могут быть «темный», «пастельный», «высоко детализированный», «эпичный» и др.

572

Грамотное проектирование текстовых подсказок с модификаторами позволит добиться желаемого результата при генерации изображения.

Методология исследования. В эксперименте по формированию информационной грамотности средствами проектирования текстовых подсказок для генерации изображений приняли участие 46 обучающихся МАУ ДО ГДТДиМ «Одаренность и технологии» в возрасте 12–14 лет.

Эксперимент проходил в четыре этапа.

1.Подготовительный. В рамках данного этапа была изучена научная литература и подготовлена методическая основа дальнейшей образовательной деятельности.

2.Входной контроль. С целью дальнейшего выявления уровня

роста развитости элементов информационной грамотности у обучающимся, им было предложено выполнение заданий и дидактические игры, среди которых были:

–точное описание предложенного изображения;

–ролевая игра «начальник и ленивый работник», когда тот, кому

досталась роли начальника, дает работнику поручение, а ленивый работник пытается найти лазейку в формулировки задания и выполнить его плохо, и др.

3. Основной этап. В рамках данного этапа обучающиеся

знакомились с нейросетью Stable Diffusion с помощью методического пособия генерировали изображения. Для изучения модификаторов было проведено знакомство с художественными стилями, направлениями в фотографии и другими темами. Далее каждому из учащихся было предложено разработать собственный стиль на смешении уже существующих. Итоговой работой стала разработка презентации на свободную тему с использованием только сгенерированных изображений.

4. Контрольный этап. Кроме повторения шагов входного

контроля, обучающимся была предложена анкета об итогах работы с генеративной нейросетью. Также на протяжении всех этапов проходило педагогическое наблюдение с целью выявления новых способов действия у обучающихся.

Результаты исследования. Ожидаемые:

573

–54 % обучающихся стали лучше формулировать запросы для

поисковых систем;

–34 % стали более осознанно потреблять графический контент

(при нахождении в Интернете интересующего их изображения они чаще стали интересоваться, кто его автор, в каком стиле оно выполнено и др.). У части обучающихся появилась склонность к систематизации контента по определенным признакам;

–39 % проявили склонность к более емкому и конкретному

формулированию просьб и указаний;

–18 % высказали желание к дальнейшему изучению

художественных особенностей изобразительного искусства.

Непредвиденные:

– часть обучающихся стала чаще пользоваться онлайн-

переводчиком и искать информацию в англоязычном сегменте Интернета;

– 42 % продолжили использовать генеративные нейросети

в повседневной жизни и в обучении. Часть обучающихся познакомила с нейросетями родственников и друзей. Четверо обучающихся изъявили желание продолжить изучение нейросетей на профессиональном уровне.

Заключение. Данные результатов педагогического наблюдения, анализа анкет и выполнения учебных заданий, подтверждают гипотезу о том, что использование генеративных нейросетей и обучение проектированию подсказок способствуют метапредметному развитию обучающихся в области информационной грамотности. Цель исследования достигнута, а материалы, разработанные в его рамках, могут быть использованы работниками образовательных организаций для включения представленных практик в образовательный процесс.

Список литературы

1.Gabha, H. Disco Diffusion 70+ Artist Studies / H. Gabha. – Текст

:электронный // weirdwonderfulai.art : [сайт] – URL:

https://weirdwonderfulai.art/resources/disco-diffusion-70-plus-artist- studies/ (дата обращения: 24.10.2022).

2. Midjourney Documentation. – Текст : электронный // Github : [сайт] – URL: https://github.com/midjourney/docs/ (дата обращения:

24.10.2022).

574

3.Oppenlaender, J. A Taxonomy of Prompt Modifiers for Text-To- Image Generation / J. Oppenlaender. – Текст : электронный// arXiv preprint arXiv. – 2022. – №2204.13988.

4.Parsons, G. The DALL·E 2 Prompt Book / G. Parsons – Текст :

электронный // dallery.gallery : [сайт] – URL:

https://dallery.gallery/wpcontent/uploads/2022/07/The- DALL%C2%B7E-2-prompt-book-v1.01.pdf (дата обращения:

24.10.2022).

5. Prompt Guide. – Текст : электронный // DreamStudio : [сайт] – URL: https://beta.dreamstudio.ai/prompt-guide (дата обращения:

24.10.2022).

6. Remi Durant. Artist Studies by @remi_durant. – Текст : электронный // remidurant.com : [сайт]. – URL:

https://remidurant.com/artists (дата обращения: 24.10.2022).

7. Rendo1#6021, Luc#0002. DALL·E 2 Prompt Engineering Guide. – Текст : электронный // Google Docs : [сайт]. – URL:

https://docs.google.com/document/d/11WlzjBT0xRpQhP9tFMtxzd0q6

ANIdHPUBkMV-YB043U/edit#heading=h.8g22xmkqjtv7 (дата обращения: 24.10.2022).

8. Smith, E. A Traveler’s Guide to the Latent Space. / E. Smith. –

Текст : электронный // Sweet hall e72 : [сайт]. – URL: https://sweet- hall-e72.notion.site/A-Traveler-s-Guide-to the-Latent-Space- 85efba7e5e6a40e5bd3cae980f3 (дата обращения: 24.10.2022).

9. Vivian, L. Chilton Design Guidelines for Prompt Engineering Text-

to-Image Generative Models / L. Vivian, B. Lydia. – Текст : непосредственный // In Proceedings of the 2022 CHI Conference on

Human Factors in Computing Systems (CHI ’22). – New York : Association for Computing Machinery, 2022. – T. 384.

A. S. Beloded

City Palace of Creativityof Children and Youth

Giftedness and technology

Yekaterinburg (Russia)

TEXT-TO-IMAGE NEURAL NETWORKS AS A MEANS OF TEACHING INFORMATION LITERACY TO

ADOLESCENTS

575

The article studies the prompt engineering for generative (text-to- image) neural networks in the context of implementation in the educational process. The work is based on a pedagogical experiment, as a result of which the author comes to the conclusion that this practice can contribute to the development of elements of information literacy of students.

Key words: generative neural networks, information literacy, prompt engineering, modifier, educational process.

Белодед Александр Сергеевич, педагог дополнительного образования, Городской Дворец творчества детей и молодежи «Одаренность и технологии», a.s.beloded@ya.ru.

576

Л. Б. Зубанова

Челябинский государственный институт культуры Челябинск (Россия)

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ЭТИЧЕСКОМ ИЗМЕРЕНИИ:

НЕПРЕДНАМЕРЕННАЯ ЖЕСТОКОСТЬ

ИКОНСТРУИРУЕМАЯ ПРЕДВЗЯТОСТЬ

Встатье поднимаются этические проблемы, характерные для цифровой культуры XXI века. Особое внимание уделяется новому этическому измерению, связанному с развитием искусственного интеллекта. На материале анализа конкретных кейсов исследуется «рандомный эффект» (непреднамеренная жестокость) и «эффект проекции» (отражающий предрассудки и стереотипы различных агентов влияния) в алгоритмах функционирования искусственного интеллекта.

Ключевые слова: медиа, этика, этика алгоритмов, искусственный интеллект, цифровая культура.

Введение. Этическая проблематика в последние годы все чаще оказывается в эпицентре общественного внимания, занимает актуальные позиции в информационной повестке. На смену характерной для рубежа XX–XXI веков парадигме ценностного кризиса и соответствующим этому ощущению перепутья представлениям об этическом разломе (сентенции о бездуховности, утрате ценностного ядра, этической аномии и т.п.) приходит время «новой этики». В мейнстрим общественных дискуссий попадают вопросы политкорректности и толерантности, «новой чувствительности» («травма», «токсичность», «граница») и общей направленности «тотальной морализации» и «феноменологии обид», проявляющихся в отдельной научной специализации – исследование обид (grievance studies) [2]. Не оценивая характер подобных проявлений, отметим лишь, что они свидетельствуют об актуализации этического дискурса.

577

Несмотря на разнообразие поднимаемых проблем почти все они, с большей или меньшей включенностью, связываются с развитием медиасреды. Чаще всего речь идет о деструктивных проявлениях медиакоммуникации и негативных последствиях внедрения цифровых технологий (постправда, буллинг, дипфейк, нарушение норм конфиденциальности, границы приватности и прочее).

Обобщая разнообразие поднимаемых вопросов и тем, мы можем выделить два ключевых ракурса изучения этической проблематики, лежащей в плоскости медиаисследований:

1)естественная трансформация этических подходов и понятий, обусловленная историко-культурной динамикой общества;

2)возникновение принципиального нового этического измерения, связанного с распространением искусственного интеллекта, процессами и результатами NBIC-конвергенции (нано,

био, информационные и когнитивные технологии). Именно этика искусственного интеллекта и становится предметом анализа в настоящем материале.

Материал и результаты исследования. Этика искусственного интеллекта, этика технологий, робоэтика, машинная этика – вариации сопряжения технологического и этического начал, оказывающиеся в предметной области внимания институций, лежащих на разных полюсах ответственности: уголовно-правовой

[4]и нравственно-этической, религиозной [1].

Обращаясь к анализу конкретных кейсов, мы можем говорить о рандомном эффекте «непреднамеренной жестокости алгоритмов» [6] (в 2015 году сервис Google Photo случайно отметил двух афроамериканцев как горилл; Facebook* заблокировал аккаунт

футбольного тренера Дмитрия Хохлова, ошибочно расценив его

репрезентации субъективной ответственности агентов влияния на алгоритмические процессы. Этими агентами могут выступать как разработчики, так и сами пользователи (в том числе, возможен и синтез специализированного и спонтанного характера).

Примеры проекции, трансляции человеческих предубеждений на работу алгоритмов зачастую лежат в плоскости расовых, социальных и гендерных стереотипов и предрассудков:

578

–так, «сбой» в компьютерной программе отбора абитуриентов

вмедицинской школе больницы Св. Георгия в Соединенном Королевстве (отсев кандидатов-женщин, имеющих неевропейские

имена) объяснялся изначально заданной предвзятостью разработчиков; равно как и в другом примере, когда при прогнозировании медицинской помощи алгоритмы оценивали менее нуждающимися чернокожих пациентов, поскольку изначальный расчет строился на основе расходов, потраченных более обеспеченными группами на медицинскую помощь в предшествующий период (получающие меньше помощи из-за

низкого дохода в прошлом не будут рассчитывать на нее и в будущем) [5];

–негативное влияние коллективного актора на алгоритмы искусственного интеллекта заметно на примере запуска в Twitter-

аккаунта бота Тау (компании Microsoft): всего за сутки, в процессе общения с различными пользователями чат-бот обучился

нецензурной речи, поддержали антифеминистские высказывания и отрицание Холокоста [4].

Заключение. Таким образом, акторам цифровой культуры XXI века еще предстоит выработать систему нормативов и стандартов «этики ответственности для технологической цивилизации» [3], регулирующих функционирования искусственного интеллекта на принципах предупреждающей ответственности.

Список литературы

1.Абрамов, А. А. Философские проблемы высоких технологий: взгляд из Рима / А. А. Абрамов. – Текст : непосредственный // Миссия конфессий. – 2021. – Т. 10. № 1 (50). – С. 90–97.

2.Девятко, И. Ф. Нравственность, мораль, этика: что происходит

втеории и социальной практике? (круглый стол) / И. Ф. Девятко и

др. – Текст : непосредственный // Социологические исследования. –

2021. – № 3. – С. 28–43.

3.Йонас, Г. Принцип ответственности: опыт этики для технологической цивилизации / Г. Йонас. – Москва : Айрис-Пресс, 2004. – 480 с. – Текст : непосредственный.

4.Карташов, И. И. Искусственный интеллект как субъект

уголовной ответственности: настоящее и перспектива /

579