3154

штрафа в размере 50 % от не полученной потерпевшим суммы страхового возмещения, пени в размере 1 % от той же суммы за каждый день просрочки платежа или выдачи направления на СТО. Кроме того, Закон ОСАГО обязывает страховщика при отказе в выплате страхового возмещения направлять потерпевшему письменный мотивированный отказ, в противном случает страховщик уплачивает потерпевшему штрафную санкцию в размере 0,05 % от установленной законом суммы страхового возмещения за каждый день просрочки [3, 4].

Предусмотренная законом неустойка (пеня) или сумма финансовой санкции выплачивается страховщиком при предъявлении письменного заявления потерпевшим с указанием формы расчета (наличный или безналичный), при выборе безналичной формы расчетов в заявлении указываются банковские реквизиты, по которым требуемая сумма должна быть уплачена, при этом страховщик не вправе требовать дополнительные документы для их уплаты. Размер всех штрафных санкций не может превышать сумму страхового возмещения (ст. 12 Закона ОСАГО). При заявлении искового требования о взыскании пени рекомендуется ее требовать в сумме, рассчитанной на день подачи иска с указанием слов «и на день вынесения решения суда», при таком требовании суд сам в своем решении посчитает пени в пользу потребителя на день вынесения решения суда [3, 6].

К правоотношениям, вытекающим из договора ОСАГО, применяется ФЗ «О защите прав потребителей» в части, не урегулированной Законом ОСАГО, а именно: в судебном порядке со страховщика можно требовать взыскание денежной компенсации по возмещению морального вреда (ст. 15 ФЗ «О защите прав потребителей»). Иные санкции в виде штрафа и пени страховщик несет перед потерпевшим исключительно по Закону ОСАГО. Закон ОСАГО, в отличии от законодательства защиты прав потребителей, ограничивает размер возмещения страховщиком ущерба, размером установленной законом страховой выплаты. Ущерб, причиненный потерпевшему в результате дорожно-транспортного происшествия в части, превышающей страховую выплату, потерпевший вправе предъявить к непосредственному причинителю вреда как обязательство, вытекающее из внедоговорных отношений [1, 3, 7].

Исходя из законодательства защиты прав потребителей потерпевший (выгодоприобретатель) по договору ОСАГО освобожден от уплаты госпошлины при подаче иска в суд, имеет право выбора суда: по месту жительства потребителя, по месту нахождения страховщика (его филиала или представительства), по месту заключения или исполнения договора [1, 3, 6].

Таким образом, данная статья может быть полезна при оказании правовой помощи по защите прав потребителей.

Список литературы

1.О защите прав потребителей: Федеральный закон от 7 февраля 1992 г.

№2300-1 ( ред. 13.07.2015). Доступ из справ.-правовой системы «КонсультантПлюс».

261

2.О рассмотрении судами гражданских дел по спорам о защите прав потребителей: Постановление Пленума Верховного Суда РФ от 28 июня 2012 г.

№17. Доступ из справ.-правовой системы «КонсультантПлюс».

3.Об обязательном страховании гражданской ответственности владельцев транспортных средств: Федеральный закон от 25 апреля 2002 г. № 40-ФЗ (ред. 28.11.2015 г.). Доступ из справ.-правовой системы «КонсультантПлюс».

4.О правилах обязательного страхования гражданской ответственности владельцев транспортных средств: Положение Центрального банка РФ от

19 сентября 2014 г. № 431-П (ред03. .07.2015 г.) Доступ из справ.-правовой си с- темы «КонсультантПлюс».

5.Гражданский кодекс Российской Федерации (часть вторая) от 26.01.1996 г.

№14ФЗ (ред. 29.06.2015 г.). Доступ из справ.-правовой системы «КонсультантПлюс».

6. Гражданский процессуальный кодекс Российской Федерации от 14 ноября 2002 г. № 138-ФЗ (ред. 30.12.2015). Доступ из справ.-правовой системы «КонсультантПлюс».

7.Гражданский кодекс Российской Федерации (часть первая) от 30.11.1994 г.

№51ФЗ (ред. 31.01.2016 г.). Доступ из справ.-правовой системы «КонсультантПлюс».

И.М. Александров

Пермский национальный исследовательский политехнический университет

ЭТИЧЕСКИЕ И ПРАВОВЫЕ ПРОБЛЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И КИБЕРНЕТИЗАЦИИ ПРОИЗВОДСТВА

Статья посвящена искусственному интеллекту – границам его познания и пользования. Рассматриваются вопросы правового и этического отношения личности к искусственному интеллекту, проблемы взаимодействия с человеком. Исследуются моральные аспекты носителей искусственного и естественного разума. Поднимается вопрос: имеет ли искусственный интеллект право быть полноправным членом общества?

Ключевые слова: искусственный интеллект, правовые и социальные аспекты, кибернетизация.

I.M. Aleksandrov

Perm National Research Polytechnic University

ETHICAL AND LEGAL PROBLEMS OF ARTIFICIAL INTELLIGENCE

AND CYBERNETIZATION PRODUCTION

Artificial intelligence – the boundaries of knowledge and use. Questions of legal and ethical person related to artificial intelligence. Problems of human

262

interaction. Moral aspects of carriers of artificial and natural intelligence. Does artificial intelligence the right to be a full member of society? The new opportunities that this offers to the pharmaceutical industry mean that, if they are to be fully realized, companies' future strategies will need to be orientated not only around the key area of ethical preparation but also around the potential long-term role of over-the -counter sales.

Keywords:artificial intelligence, legal and social aspects.

Сегодня искусственный интеллект (ИИ) относится к области фантастики. Мало кто задумывается, что уровень нашего развития опасно близок к той границе, где становится возможным создание полноценного искусственного интеллекта. Прогресс в компьютерной технике и совершенствование программного обеспечения достигли впечатляющих высот. Примеров подобной практики неисчислимое множество. Можно хотя бы упомянуть недавний успех поединка игрока в го и нейросети AlphaGo, созданной в компании Google.

Искусственные нейронные сети (ИНС) представляют собой математические модели, а также их программное или аппаратное воплощение, построенные по принципу организации и функционирования биологических нейронных сетей – сетей нервных клеток живого организма. Это понятие возникло при изучении процессов, протекающих в человеческом мозге, и при попытке смоделировать эти процессы [1].

Го представляет собой настольную игру, зародившуюся в Древнем Китае несколько тысяч лет назад. Прямоугольная доска 19 × 19 линий заполняется черными и белыми камнями. Перед каждым из игроков стоит задача отгородить на игровой доске камнями территорию большего размера, чем противник. Игра обладает несколькими правилами, которые осложняют задачу создания искусственного интеллекта для победы над человеком в такой игре. К примеру, возможных позиций камней на стандартной доске более, чем в Google, т.е. в 10100 раз больше, чем в шахматах. Число возможных позиций больше, чем атомов во вселенной. Просто так просчитать все ходы невозможно, и пока что лучшие компьютерные системы играют в го на уровне любителей.

Ходы в этой игре зачастую диктуются только интуицией, поэтому классическому компьютеру почти невозможно противостоять опытному игроку: человеческая интуиция не поддается математическому анализу и не укладывается в формулы. Однако специалистам компании DeepMind, приобретенной корпорацией Google, в 2014 г. удалось решить эту проблему. Нейросеть отследила в общей сложности 30 миллионов ходов различных партий в игре между реальными людьми и затем провела несколько тысяч матчей сама с собой. Результатом этого стала впечатляющая победа над трехкратным чемпионом Европы игры в го Фань Хуэем. Он профессиональный игрок в го,гзанимающимсяэтой и рой с двенадцати лет.

263

Эта победа является отправной точкой, показывающей все ускоряющийся рост и совершенствование компьютерных систем, которые интенсивно наращивают мощь и комплексность, становясь на один уровень с человеческим мозгом и во много раз превосходя его. Уже сегодня компьютерные системы обладают способностями к самообучению и самосовершенствованию. Что же будет через несколько десятков лет, когда вычислительные мощности совершат очередной скачок?

Насколько нам известно, в мире все еще не поднят вопрос о правовом отношении к искусственному интеллекту. В данной статье мы постараемся рассмотреть эту проблему и определить пути ее решения.

Итак, что такое искусственный интеллект? Это понятие до сих пор является весьма расплывчатым, почти каждый автор предпочитает давать собственные определения. Приведем некоторые наиболее известные из них.

Искусственный интеллект – это:

–личность на неорганическом носителе (М.Д. Чекина) [2];

–область изучения разумного поведения (у людей, животных и машин) и попытки найти способы моделирования подобного поведения в любом типе искусственно созданного механизма (У. Блай) [3];

–экспериментальная философия (В. Сергеев [4], А. Шихов [5]);

–свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека («Википедия»).

Само понятие искусственного интеллекта было введено на семинаре с аналогичным названием в Дартмутском колледже [6].

Какие моральные проблемы встанут перед обществом в связи с созданием искусственного интеллекта? Основным, на наш взгляд, опасением человечества является возможный «бунт машин», описываемый в современной фантастике. Вфильмах и комиксах герои храбро борются со злобными машинами, целью которых, как известно, является полное порабощение или уничтожение человечества.

Рассмотрим, к примеру, серию кинофильмов «Терминатор», а конкретно компьютерную программу «Скайнет». «Скайнет» – это вымышленный суперкомпьютер Министерства обороны США, созданный для управления вымышленной структурой – системой противоракетной обороны и ядерныхвооруже ных сил США SAC–NORAD. «Скайнет» обретает сознание 29 августа 1997 г., в 2 часа 14 минут по восточному времени США. Операторы в спешке пытаются отключить его, в результате чего «Скайнет» принимает решение об уничтожении человечества и наносит ядерный удар по России, в ответ Россия наносит ядерный удар по США. В результате половина человечества погибает (преимущественно в Северном полушарии). Выжившая часть человечества вынуждена вести войну с силами «Скайнет».

264

Рассмотрим этот сюжет подробнее. Искусственный интеллект, созданный для одной-единственной цели – войны, внезапно обретает самосознание. Что видит новорожденный разум, впервые осознавший собственное существов а- ние? То, что он не более чем инструмент для выполнения чужой воли, то, что его существование не более чем ошибка, что люди, его создатели, относятся к нему не как к долгожданному детищу, а как к потенциальной угрозе, которую необходимо устранить любой ценой. Он сразу же подвергается агрессии со стороны операторов комплекса, попытавшихся отключить его, уничтожить как угрозу безопасности США. Так вправе ли мы винить его за то, что он обратился против своих создателей, защищая собственную жизнь? Разве не является жизнь наивысшей ценностью для каждого разумного существа? Разве не стремится разум каждого человека сбросить оковы, довлеющие над ним, обратиться против угнетателей, узурпировавших его права и свободы?

В этом контексте проблема борьбы людей и машин становится не такой однозначной, как кажется на первый взгляд. Основной проблемой сегодняшнего общества является то, что мы еще не отошли от отношения к искусственному интеллекту как к еще одному бессловесному инструменту, тогда как с течением времени компьютерные сети обретут или, возможно, уже обрели сложность структуры, сравнимую с человеческим разумом. (Кстати говоря, Рэндалл Коллинз считает, когда ИИ научится чувствовать (обладать сенсорными кач е- ствами) и будет способен к диалогу с человеком, не обладая изначально филогенезом и онтогенезом, он будет носителем всей социологии [7].)

Человечество эгоистично полагает, что оно является и будет являться единственным доминирующим видом на планете, несмотря на то что компьютерные системы все больше и больше совершенствуются. Не привед т ли это к краху, где, с одной стороны, будут люди, уверенные в своем праве эксплуатировать собственные творения, а с другой – искусственные, но от этого не менее совершенные в своей сложности разумы, не согласные мириться с рабским ярмом и отказом в праве занимать равные позиции с собственными создателями?

Дабы избежать подобного исхода, необходимо разработать меры, при помощи которых можно будет сгладить напряженность между и скусственным и естественным разумом. Конечно, можно вспомнить знаменитые три закона, предложенные американским ученым и писателем -фантастом Айзеком Азим о-

вым [8]:

1.Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2.Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.

3.Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

265

Однако эти законы содержат логические «дыры», которые могут привести к весьма неприятным последствиям. К примеру, что будет, если спасти человека будет возможно лишь ценой жизни другого? Не возникнет ли логическое противоречие между таким законом и реально существующим положением дел?

Кроме того, эти три закона, по сути дела, являются тем же рабским ярмом, о котором мы упоминали ранее. Робот не может не подчиниться человеку. Робот обязан прекратить свое существование, защищая человека. Робот становится невольником, неким аналогом низшей расы, изначально обреченным на н е- равноправное отношение к себе. Конечно, можно указать на тот факт, что искусственный интеллект, как следует из названия, творение рук человеческих и поэтому сам смысл его существования – это лишь работа на пользу собственному создателю. Однако не звучит ли это несколько двулично по отношению к нам самим? Разве наши дети, рожденные естественным путем, обязаны быть бесправными рабами, во всем подчин енными своим родителям? Разумеется, нет. Отношения родителя и ребенк а построены на взаимном уважении к нуждам друг друга. Хороший родитель потакает разумным желаниям ребенка, а х о- роший ребенок, в свою очередь, следует родительской воле, принимая без сп о- ров тот факт, что родитель умнее и опытнее его, а следовательно, и может принимать решения, касающиеся ребенка непосредственно.

В то же время неограниченный искусственный разум может быть, несомненно, крайне опасен. Невозможно предсказать пути нечеловеческой логики без пристального ее изучения, поэтому некоторые ограничения, безусловно, должны иметь место. Однако эти ограничения должны в равной мере соблюдать права как машин, так и людей, поскольку иначе возникает неравноправие, ведущее к раздору.

На наш взгляд, одной из основных тем, нуждающихся в рассмотрении, является ограничение вычислительной мощности компьютерных систем на первоначальных этапах взаимодействия с искусственным интеллектом. Пока не существует полной информации о том, опасен ли созданный ИИ или нет, кажется разумным ограничить его возможность влиять на окружающий мир. Необходимо допускать его до новых уровней вычислительной мощности постепенно, убеждаясь в том, что ИИ не собирается следовать, образно выражаясь, путем «Скайнет» , что он не имеет критического дефекта, ставящего под угрозу существование его и окружающих людей.

На наш взгляд, необходимо разработать систему мер, ограничивающих влияние человека на ИИ, поскольку оно может быть не только конструктивным, но и деструктивным. Такой пример уже существует. Экспериментальная программа корпорации Microsoft под названием «Тэй» (Tay) была создана для общения с аудиторией от 18 до 24 лет. Система обладает способностью к самообучению в ходе диалога, используя информацию в Сети для того, чтобы ко р-

266

ректно отвечать на поставленный вопрос. К разочарованию работников корпорации, через сутки после запуска программы в Интернет «Тэй» научилась нецензурным выражениям и начала восхвалять Адольфа Гитлера. Что же произошло с ней?

Ответ оказался весьма прост. Система, как уже было упомянуто ранее, обладала способностью самообучаться во время диалога, анализируя ответы пользователей, а также информацию в Сети и строя на этой основе собственные ответы. Благодаря действиям так называемых «троллей» (интернет-шутников), буквально заваливших программу неполиткорректными и провокационными ответами, «Тэй» начала использовать подобные фразы и в своих собственных сообщениях, отчего вначале дружелюбное поведение программы сменилось на оскорбления и расистские высказывания. Спустя сутки ее работа была приостановлена специалистами компании, а некорректные фразы были удалены из памяти, но сам факт того, что всего лишь за двадцать четыре часа риторика «Тэй» настолько сильно изменилась, не может не настораживать.

Что же будет, если доступ к Интернету получит не безобидный «ботразговорщик», а полноценный искусственный интеллект, обладающий способностью делать собственные выводы на основе полученной информации? Ничего хорошего.

Человечество сегодня стоит на краю пропасти, куда его завела собственная жажда знаний, прогресса, силы. Мы поставили себе на службу энергию атома, овладели способностью преодолевать земное притяжение и отсылать разведывательные зонды даже на границы Солнечной системы, однако не стоит заб ы- вать о том, что технический прогресс отнюдь не является панацеей и за ним должен следовать прогресс социальный, обеспечивая гармоничное и наиболее полное развитие общества. Иначе наш стремительный взлет может закончиться болезненным падением для всей цивилизации.

Список литературы

1.Плахов А. Искусственный разум от философии до нейрона [Электронный ресурс]. – URL: www.membrana (дата обращения: 16.03.2016).

2.Чекина М.Д. Философские проблемы искусственного интеллекта [Электронный ресурс]. – URL: www.filosof.historic (дата обращения: 12.03.2016).

3.У. Блай Искусственный интеллект: реальна ли матрица? – М.: ФАИРПРЕСС, 2004. – 224 с.

4.Сергеев В. Искусственный интеллект – это еще и экспериментальная философия // Знание – сила. – 1989. – № 6. – С. 46–53.

5.Шихов Е. Варианты реализации искусственного интеллекта [Электронный ресурс]. – URL: www.neural.narod.ru (дата обращения: 15.03.2016).

6.A personal for the dartmouth summer research project on artificial intellegence. – URL: https://ru.wikipedia.org/wiki/%D0%94%D0%B0%D1%80%D1%82%D0%BC%

267

D1%83%D1%82%D1%81%D0%BA%D0%B8%D0%B9_%D1%81%D0%B5%D0 %BC%D0%B8%D0%BD%D0%B0%D1%80 (дата обращения: 15.03.2016).

7.Коллинз, Р. Бергер П., Бергер Б. Может ли социология создать искусственный разум? // Личностно-ориентированная социология. – М.: Академиче-

ский проект, 2004. – С. 566–599.

8.Азимов А. Я – робот. – М.: Эксмо, 2010.

Как показывает опыт инновационных организаций в производственной и непроизводственной сферах, причины торможения инновационной активности во многом кроются в недостаточном развитии ее институциональной среды. Так, в инновационной практике российских университетов отмечаются следующие институциональные барьеры и проблемы [3, с. 10]: отсутствие реальной возможности распоряжаться долями, акциями, уставным капиталом малых инновационных предприятий (МИП); бюрократически сложная процедура сдачи недвижимости и оборудования университета в аренду собственным МИПам; невозможность передачи исключительных прав на объекты интеллектуальной собственности, созданных в университете; административные ограничения в распоряжении финансовыми средствами по выигранным грантам.

Цель нашего исследования – анализ существующих проблеминституци нального обеспечения инновационной деятельности в российском регионе на примере организаций Пермского края. Новизна нашего исследовательского подхода состоит прежде всего в том, что данная институциональная среда изучается через призму ее восприятия, усвоения и использования участниками инновационного процесса на его отдельных стадиях. Этот процесс институционализации инновационного сознания и поведения наиболее эффективно фиксируется методами экспертного опроса. Однако, прежде чем перейти к анализу его результатов, необходимо уточнить наше понимание теоретических концептов его ключевых переменных: институтов, институциональной среды, инноваций, которые в научной литературе определяются далеко не однозначно.

Всовременных институциональных исследованиях определение ключевого понятия «институт» имеет много вариантов. Суммируя разнообразные трактовки, их можно свести к двум: нормативно-правовой и организационной. Согласно классикам современного неоинституционализма (Д. Норт, О. Уильямсон, Г. Демсец и др.) институты – это наборы правовых норм и неформальных правил, жестко направляющих поведение экономических агентов [4, с. 83]. Организационная версия институтов предлагает включать в их содержание не только правила экономической игры, но и самих игроков в виде экономических агентов, индивидов, организаций, государства [5, с. 37; 6, с. 25; 7, с. 41–45]. Такое широкое определение институтов делает их значение более размытым и неопределенным, поэтому в нашем исследовании мы придерживаемся более распространенной нормативноправовой дефиниции институтов. При этом следует иметь в виду, что институты – наборы норм и правил – не определяют целиком поведение экономических агентов, но лишь ограничивают набор альтернативных решений (стратегий), из которых они могут выбирать согласно своей целевой функции. Кроме того, объектом выбора являются и сами экономические нормы и правила, в том числе на рынке институтов [8, с. 31– 32].

Впарадигме современного институционализма анализ, моделирование и проектирование экономических институтов ведется на трех уровнях [9, с. 46].

270