IT-Edutainment

Новая этика технологического уклада


КАК ТЕХНОЛОГИИ ВЛИЯЮТ НА
ВЗАИМОДЕЙСТВИЕ И ПОНЯТИЕ ЦЕНЫ?
Фото: Phonlamai Photo / shutterstock
На пороге третьего десятилетия 21 века технологический мир начал сталкиваться со множеством этических дилемм и проблем. Происходит значительная смена цивилизационной этики. Во всяком случае технологические бизнесы заметно меняют общественную и бизнесовую этику.
Сомнения или ясность?

Жизненно важное развитие технологического уклада на планете с 7,4 млрд населения и множеством различающихся цивилизаций неизбежно ведет к отказу от прежних практик и смене этики. Достаточно развившиеся технологии выходят на плато продуктивности и начинают служить интересам бизнеса. Служа бизнесу, технологии обслуживают и людей в целом. Вопрос в том, насколько нас устраивают новые паттерны. Все чаще мы можем столкнуться с такими вопросами:

  • Это ок – показывать таргетированную рекламу в японском такси, используя технологию распознавания лиц для определения пола?
  • Это ок, что Amazon применяет технологию, которая автоматически оценивает выполнение KPI и может увольнять сотрудников?
  • Это ок, что врач калифорнийской клиники сообщил пациенту о безнадежной ситуации со здоровьем посредством робота телеприсутствия?
  • Это ок, что AI технологии теперь способны выявлять PTSD (посттравматический синдром), анализируя голос?
  • Это ок, что многие потребители теперь боятся сообщать сервисам о некачественной услуге и даже говорить об этом в соцсетях?
  • Это ок, что вы постоянно должны найти все мосты на капче?
  • Это ок, что сервисы такси хранят историю поездок и позволяют таксистам видеть телефоны клиентов?
  • Это ок – не здороваться в мессенджерах?
  • Это ок – заметно ограничить возможности стор-зависимых девайсов прошлых, но не древних поколений?
  • Это ок, что Netflix записывал выбор зрителей во время просмотра «Брандашмыга», интерактивной серии «Черного зеркала», не спрашивая согласия?
  • Это ок, что истории анимационного фильма «Любовь, смерть и роботы», по сообщениям зрителей, показывали в разном порядке разным группам?
  • Это ок – регулировать Интернет?
  • Это ок – распознавание лиц в городе?
  • И т. д.

С одной стороны, на любой из этих вопросов можно ответить так: «Welcome в 2019 год. На пороге третье десятилетие 21 века. Это реальность технологического уклада и рынка, где все происходит очень быстро, где конкурируют государства, экономики, несколько миллиардов людей и порядка 200 млн компаний».

С другой стороны, у многих из нас само положение вещей часто вызывает смятение, ощущение, что что-то с разными вещами не так, не совсем ок или совсем не ок.


В секторе услуг возникают пограничные зоны

К примеру, если вы напишете негативный отзыв о качестве услуг в соцсетях, то с большой вероятностью в комменты к вам придут представители компании. И вы понимаете, что если кого-то в результате жалобы оштрафуют или уволят за плохое качество услуг, то эти люди знают, где вы живете и какой у вас телефон. Потому что сейчас все так устроено: данные пользователей никак не шифруются от персонала во многих случаях. Он даже может иметь доступ к вашим медицинским данным.

Широкая общественная дискуссия о подобных нюансах не созрела, поэтому не вырабатываются и многие нужные нормы технологической этики. Соответственно, они не зафиксированы юридической регуляцией.


Понятие цены трансформируется


Зачастую бизнес ставит потребителя в условия, когда клиент платит деньгами за продукт/услугу, но это начало. Дополнительно потребитель имеет дело с такими вещами, как стор-зависимость и платформа-зависимость; должен заплатить за консультацию техподдержки, если купил девайс всего несколько лет назад, потому что бесплатный период закончился; из страха за свою безопасность не дает обратной связи о некачественных услугах и не предает такие прецеденты огласке; ультимативно предоставляет приложению доступ к личным данным, истории перемещений, покупок или поисковых запросов; и еще должен посмотреть таргетированную рекламу. Иногда сделка приемлема, иногда ощущение, что от вас хотят слишком много, что реальная цена оказывается значительно выше заявленной. Юридические и рыночные возможности есть, и некоторые бизнесы заявляют расширенные условия, потому что могут.

Иногда суперкапиталистическая технологическая этика компаний состоит в том, чтобы привести пользователей к абонентской плате (в какой-то форме) либо к вынужденной покупке девайса нового поколения.

Мы видим, что реальная цена теперь может включать не только деньги, но и персональные данные, статистику действий, внимание, зависимость и долгосрочность контракта. Внимание это своего рода платежная единица во времена 8-секундного Attention Span и рекламных бюджетов.

Не всегда есть возможности Opt-Out. Не говоря уже о том, что все, помимо твердой денежной стоимости услуги или продукта, должно быть в формате Opt-In. То есть, по идее, вы «включаете, если хотите», а не «выключаете, если не хотите». Потребитель иногда платит несколько скрытых стоимостей услуги/продукта, помимо денежной. Действует принцип «А так можно было?». Сам по себе он нейтрален и способствует прогрессу. Но задумаемся, как потребители ответят на вопрос, что является справедливой рыночной сделкой для них?


Некоторые технологии могут стать технологиями дискриминации

Иногда это просто часть переходного процесса, как в случае с дигитализацией денег. Дигитализация потребительской и социальной инфраструктуры стремительно происходит по всему миру: уже сейчас люди, предпочитающие платить бумажными и металлическими деньгами, сталкиваются с эпизодами дискриминации и стрессами. Такое простое действие, как оплата физическими деньгами, порой идет вразрез с этикой технологического уклада, кто бы мог подумать. На сегодня в некоторых локациях дигитализированы даже такие сферы, как донейшн городским музыкантам и финансовая помощь бездомным (на улице по QR-коду).

С другими технологиями речь не о переходной неразберихе из-за вытеснения устаревающих носителей ценности, а об этических рисках. Возьмем новость про то, что искусственный интеллект научился распознавать посттравматическое расстройство (PTSD) по голосу. Рынок HR демонстрирует тренд на технологизацию найма. Это означает, что могут быть использованы и такие технологии. Какова вероятность, что из двух кандидатов, подходящих на вакансию, выберут того, у которого искусственный интеллект определил PTSD? На какую работу в таком случае смогут претендовать люди, которые восстанавливаются после травмирующего события, и как они получат возможности развивать карьеру?

Технологии порождают мир, который требует принципиально нового юридического регулирования. Иначе речь пойдет о вмешательстве в личные дела, потенциальном ограничении возможностей и ряде других паттернов, неприемлемых для гуманной цивилизации.


Неубедительное устаревание устройств

К примеру, функциональность ранних версий некоторых планшетов внезапно ограничена версией операционной системы. Пользователь сталкивается с технологическим стеклянным потолком: у вас есть дорогой девайс в хорошем состоянии, купленный несколько лет назад, но заявленные возможности его использования сократились just because.

В недавнем интервью ALMAMAT Blog инженер программного обеспечения Алекс Хатилов рассказал о знаковых для Кремниевой долины переменах в середине 90-х.

Александр Хатилов: «Сегодня наш CTO – очень богатый человек в большой компании, а тогда он ел с нами пиццу и ходил за ней, если была его очередь. В один день он собрал нас и говорит: "Ребята, теперь мы будем продавать софтвер в упаковке хардвера. Людей интересует не столько компьютер, сколько софт. Они покупают компьютер "в дополнение" к программам. Маркетинг будет рекламировать именно софт, а мы будем отвечать за качество". Через два-три месяца все остальные компании взяли эту идею»

Сегодня рынок снова меняет этику потребления техники.

Это не озвучивается, но в определенных кругах естественно покупать новый девайс, потому что вышла следующая модель, а не потому что старое устройство сломалось или объективно устарело. В других кругах престижные девайсы, не соответствующие реальным финансовым возможностям, становятся формой потребления роскоши. А иногда средством самозащиты (от буллинга, к примеру).
Что такое этика?

Несколько лет мы постоянно слышим слова «этично», «неэтично», хотя, кажется, мир стал только категоричнее.

В контексте именно этой темы этика – понятие не всегда моралистичное, чаще нейтральное. Средневековая этика, протестантская этика, античная этика, этика шумеров, этика Дневнего Египта, этика коренных народов Северной Америки и т. д. В каждую эпоху в параллельных цивилизациях существуют какие-то паттерны оценки и социально одобряемого поведения. Иногда они устанавливаются сводом законов, а иногда естественно меняются из-за экономических, природных и социальных факторов.

Сегодня сосуществуют несколько разновидностей этики: общечеловеческая, научная, экономическая, политическая, геополитическая, рыночная, трудовая, управленческая, европейская, исламская, китайская, американская, российская, индонезийская, японская, этика рэп-культуры и т. д. Этика это не только представление о том, как можно и нельзя. Это еще и представление об устройстве мира и ходе вещей.

Если смотреть строгие определения, то этика – «одна из форм идеологии, учение о морали (нравственности), ее развитии, принципах, нормах и роли в обществе»; «совокупность норм поведения, мораль какой-нибудь общественной группы, профессии».
Фото: Phonlamai Photo / shutterstock
Технологическая этика

Технологическая этика – часть глобализации, которая неизбежно пропитывает и меняет цивилизацию. Несмотря на тренд на инкапсуляцию, изоляционизм, традиционализм и фрагментацию. На первый взгляд, эти два тренда конфликтуют, но в действительности человечеству нужны история, интересы групп и традиции так же, как новшества, перемены, прогресс и объединительный вектор. Все устроено неоднозначно.

Технологическая этика сегодня устанавливает новые правила – как можно и как нельзя, как правильно и не очень. Можно прогнозировать, что фокус законодательных органов во всем мире сместится в технологический сектор. Этика, юриспруденция и традиция давно установили, что запрещено убивать, красть и т. п. По мере развития цивилизации, эти законы стали естественными нормами для большинства людей. Дальнейшее законотворчество коснется технологической этики.

Современные преступления все чаще выглядят незнакомо. Доступность специфических технологий и преступное мышление порождают новое по форме, а иногда и по содержанию антиобщественное поведение.

Есть также пограничные области, когда очевидного неприемлемого паттерна нет, но люди выбрали бы законодательно закрыть какие-то возможности. Кто-то готов смириться с тем, что приватности и конфиденциальности больше не будет, а кто-то считает, что это просто выгодная кому-то риторика.

Иногда государства выбирают закрывать возможности. Судить об эффектах и целесообразности решений можно лишь по статистике, которую дает время.

Почти любая нерегулируемая область (или даже любая) рано или поздно становится регулируемой. Это произошло и с Интернетом. Технологии стали основным инструментарием работы общества. А значит во всем мире туда предсказуемо и неизбежно идут регулирование и политтехнологии.

Главы технологических супергигантов тоже имеют дело с этическими дилеммами технологического уклада. Илон Маск и Марк Цукерберг высказывают мнения о том, опасен ли искусственный интеллект. Марк Цукерберг второй год работает над тем, чтобы погасить негатив и сделать концепцию соцсетей релевантной изменившейся общественной этике. Акционеры и регуляторы склонили Илона Маска к обязательной юридической проверке твиттов перед публикацией.

Таким образом, мы видим расслоение новой технологической этики.

Технологическая этика социального менеджмента, IT-ученых, военных, бизнеса, потребителей и самих технологий может различаться вплоть до противоречия и конфликта интересов.
Don't Panic

Японское такси с технологией распознавания лиц для показа гендерной рекламы сообщало также, что не хранит информацию и никуда ее не передает.

Если сотрудник работает плохо, его могут уволить – так устроен рынок, и это естественное положение вещей на этой ступени развития цивилизации.

Полностью зарегулированный Интернет – обратная сторона медали. Совершенно не регулируемый Интернет располагает к огромному количеству вещей, которых общество не поддерживает. Путь к оптимальным решениям в масштабах цивилизации извилист и долог. Технологическая этика почитает ценности скорости и стремительного прогресса. Но исторические закономерности приоритетны по отношению к технологической этике: на реальный прогресс обычно нужно время, много времени. Мы даже видим, как новый дизайн Facebook становится заметно менее синим (со временем цвета в технологическом дизайне стали кодом ценностей; синий это про информацию и скорость).

Этика в Gamedev – действительно проблемная область: детали игры Agony спровоцировали скандал, настолько чудовищны вещи, которые включены в геймплей. Парадигма игры Plague сама по себе спорна, если вообще этически допустима. Но в результате голосования пользователей создатели игры решили включить образ антипрививочников в число распространителей инфекций. Этика технологического уклада работает в обе стороны. Информированность в реальном мире предотвращает вспышки заразных болезней, способных привести к жертвам, то есть к уродствам, бесплодию, жизнеугрожающим осложнениям, семейным трагедиям и пандемиям. В противовес играм с шокирующими сюжетами существуют такие великие созидательные игры, как Flower.

Big Data – непростая область с этической точки зрения, но в недавнем эксклюзивном интервью ALMAMAT Blog всемирно известный геронтолог Обри ди Грей сказал следующее.

Обри ди Грей: «Прогресс, достигнутый в биомедицинской геронтологии с использованием машинного обучения, полностью зависит от наличия очень больших наборов данных»

Следующий кейс. Дэвид и Кристофер Миккельсен создали приложение Refunite, которое помогает воссоединиться семьям, разлученным во время войны или стихийных бедствий. В тестовом режиме приложение также дает беженцам заработать несколько долларов в день обучением искусственного интеллекта. Технологии могут быть величественно этичными и гуманистичными.

Другой пример про то же: Global Forest Watch позволяет в режиме реального времени мониторить состояние лесов на планете и спасать их от несанкционированных вырубок.

Технологии меняют войну, делают ее еще более страшной, смертоносной, циничной, лишенной случайности и шанса. И в то же время, согласно CNN, в Сирии мирное население получало предупреждения о надвигающихся авиаударах из мобильного приложения. Если люди оказались в заложниках у войны, технологии могут помочь выжить, покинуть зону бедствия и воссоединиться с близкими.

Предполагается, что техногиганты будут предоставлять опции для выживания в природных катаклизмах, учащающихся из-за глобального потепления.

Apple на днях выпустила эпичный и нацеленный на общественное воспитание и эко-этичность ролик Don't Mess with Mother. В том смысле, что нужно вести себя почтительно, эко-прилично, не меситься с природой, матерью нашего мира, она может быть невероятно грозной. Между тем, если проанализировать количество лайков и дизлайков ролика, а также учесть отключенные комменты, то несложно понять, отчего так много дизлайков.

Когда мы размышляем о том, что камеры наблюдают за гражданами на улицах, где-то считаются социальные рейтинги и ограничивается доступ к полетам при серьезных нарушениях правил, это может вызывать категорическое отторжение, потому что риски прозрачны. Если смотреть в суть, предмет здесь не столько нарушение правил и санкции за проступки, сколько то, о каких именно правилах идет речь. Мир устроен невероятно сложно.

Как здесь и сейчас организовать порядок, цивильные манеры и комфортное сосуществование в обществе? Как сделать так, чтобы миллионы людей не плевали на улицах, не кричали матом, убирали за своими собаками и т. п.? Как цивилизовать людей, которые практикуют низкое социальное поведение? Очевидно, это можно делать разными методами, различными по времени закрепления устойчивого эффекта.

Потенциал для злоупотреблений и неоптимальных решений в использовании технологий колоссален. Зачастую идеальные решения просто оказываются недоступными в реальном мире, потому что речь про быстро, про здесь и сейчас, про миллионы и миллиарды людей с разным социальным статусом, образованием и культурным эшелоном.

Вообще, в разговоре об этических дилеммах технологического уклада уместен мем про то, что вы всегда можете выбрать только две опции в треугольнике «быстро», «дешево» и «качественно».

Когда речь о нормах общежития, чем штраф за плевки на улице отличается от штрафов за превышение скорости на дорогах? Иногда одна этическая дилемма технологического уклада содержит много аспектов: социальных, технологических, политических, культурных, управленческих, инфраструктурных, рыночных, бизнесовых, логистических, психологических, правовых. И многие из них конфликтуют. «На самом деле все просто, как ездить на велосипеде, который».

Автомобили с автопилотом, обучающиеся принимать прагматичные и этичные для человека решения, стали метафорой большого процесса здесь и сейчас.
Фото: 24Novembers / shutterstock
Еще один аспект технологической этики: человечество стоит на пороге эры роботов: секс-роботов, роботов-компаньонов, служебных роботов и т. д. Применение секс-роботов, в частности, может непредсказуемо отразиться на сексуальном поведении и психике людей. Зарождается общественная дискуссия о том, что за роботами могли бы быть закреплены некие права. Нам предстоит увидеть, как будет развиваться тема этичного обращения с роботами – и реализация кодекса робототехники. Вряд ли трех законов робототехники Айзека Азимова будет достаточно. Многие люди категорически не захотят видеть, как ради забавы крушат роботов: это развратит человечество, раздвинет рамки дозволенной агрессии и опошлит концепцию зрелищ. Если открыть статью о законах в Википедии, можно увидеть, насколько эти вещи сложны с точки зрения этики, а также интересов реальных игроков цивилизации.

Вопросы этики вызвали соцсетевой шторм и техлэш в минувший год. И самой крупной соцсети пришлось менять свою политику, дизайн и акценты. Нам предстоит проверить, насколько нововведения лучше предыдущих решений и какие социальные эффекты они дадут. Кстати, в процессе расследования утечки данных люди всего мира увидели, что технологическая грамотность стала составляющей компетентности.

В конечном счете, невозможно все сложности эпохи и людей свалить на шероховатости нерегулируемой технологической этики. По мере получения жизненного опыта, общества и люди корректируют многое. Кто-то удалился из соцсетей, потому что стало ясно, что механика высказываний и шэринга убеждений иногда приводит к потере друзей и человеческого контакта в реале. Кто-то отключил все уведомления на телефоне, потому что осознал, что красный кружок с цифрой оповещений вызывает у него/нее привыкание из-за гормональных механизмов и приводит к бессоннице. Супервлогер-миллионник Кейси Найстет выложил видео о том, как соушал медиа повлияли на либидо и отношения в масштабах общества. Кто-то вернулся ко внетехнологической социальной этике и снова стал приглашать друзей в гости, как было принято раньше. Кто-то осознал, что навык мирного разрешения конфликтов при использовании городских сервисов, а также навык разумного онлайн-поведения и контроля своей речи, – часть приспособления к жизни в сложно устроенном обществе с новыми технологическими реалиями.

Вся история человечества – это воля к тому, чтобы «делать из лимона лимонад», а из кремния – чипы. Технологическая этика будет рождаться через пробы и ошибки. Более того, она все время будет уточняться итерациями. Возможно, не очень отдаленные от нас потомки (или даже мы сами спустя десятки лет) будут смотреть на сегодняшние этические дилеммы технологического уклада, как мы на неолитические топоры или инструменты Викторианской эпохи. Так или иначе, люди, работающие на IT-рынке, имеют возможности Make the World a Better Place, делать мир и технологии лучше. Выбор вариативен: новую этику технологического уклада пока закладывают люди. almamat blog
Almamat рассказывает, как получить новую профессию и войти на IT-рынок