Можно ли доверять умным устройствам?

Робот не должен своими действиями причинять вред человеку. Точка. Это один из законов робототехники, сформулированный еще в середине двадцатого века писателем-фантастом Айзеком Азимовым.

15 июля 2021 г.

Закон прекрасный и мы в IBC Solutions стремимся ему всячески придерживаться. Давайте попробуем разобраться, что с этим законом не так.

Мораль Машины

Это масштабное исследование длилось несколько лет. Более 40 млн ответов от 2,5 млн человек. Результаты исследования были опубликованы в самом авторитетном журнале на планете — Nature.

Один из вопросов исследования звучал примерно так:

«У беспилотного автомобиля отказывают тормоза на большой скорости. Прямо перед ним пешеходный переход, на котором находятся беременная женщина, пожилой старик и бегун. Избежать наезда на пешеходов можно, направив машину в отбойник, но ценой жизни водителя или пассажиров. Вопрос: кого следует убить?»

И подобных вопросов в исследовании была целая масса. Людям предлагалось выбрать среди нескольких вариантов ответов. Получилось нечто вроде голосования в условиях моральной дилеммы. Сколь бы не казалось циничным само исследование, но без него, увы, никуда.

Эксперимент для умных устройств
Сложный моральный выбор

Подобный мысленный эксперимент не только нарушает законы робототехники (вред будет по-любому кому-то причинен), но и затрагивает множество ключевых вопросов, начиная от дальнейшей разработки «умного» автомобиля и заканчивая различными социальными аспектами, а также фундаментальными изменениями в законодательстве.

Робот морален сам по себе

Примерно к такому решению приходят разработчики робомобилей и умных устройств. Тут, скорее, вопрос даже не в том может или не может робот причинить вред. Может! Вопрос в том, какова вероятность причинения вреда роботом, по сравнению с вероятностью причинения вреда человеком. Исследования говорят, что беспилотники гораздо более аккуратнее даже самого ответственного водителя. Но есть другая проблема — это доверие. Можем ли мы доверять роботу? Как мы можем быть уверены, что производитель позаботился о том, что робот не причинит вред ни нам, ни кому-либо еще?

Беспилотники гораздо более аккуратнее даже самого ответственного человека

Кроме этого, требуется разработать особое законодательство, регламентирующее ответственность владельца беспилотника.

В Германии, пока тезисно, предложили следующее:

  1. Повреждение имущества всегда в приоритете над травмами человека.
  2. Не должно быть никакой классификации людей по возрасту, статусу и так далее.
  3. При аварии отвечает производитель автомобиля.

Разумеется, эти постулаты никак пока не закреплены законодательно и требуют всестороннего обсуждения.

Умные устройства тоже могут сломаться

Хотя производители устройств для умного дома стараются создавать максимально надежное оборудование, очевидно, что возможных поломок избежать полностью нельзя. Тут обычно сразу возникает вопрос — а какова вероятность этих поломок? Быть может есть какая-то статистика? Вопросы совершенно резонные, т.к. люди пытаются получить контроль над ситуацией, оценив степень риска. Проблема в том, что подобную статистику никогда никто не публикует в открытый доступ. Нет смысла. Потому что она не поможет понять, какова вероятность того, что поломка случится именно у вас.

Можем ли мы полагаться, что устройство не врет? Что вот этот термометр, задействованный в сценарии, показывает реальную температуру и влажность? Что датчик присутствия работает бесперебойно? Что датчики утечки без проблема подадут сигнал на автоматическую запорный клан, чтобы вода перекрылась? На секунду, речь идет о безопасности владельца и его жилища. И знаете что? По сути пока нет никаких правил и политик, регламентирующих работу умных устройств в критических ситуациях.

Умные устройства тоже могут сломаться

Остается лишь доверять производителям, но не забывать проверять умные устройства время от времени. Они тоже требуют периодического обслуживания и проверки. Можно относиться к этому проще: по сути, включая свет при помощи обычного включателя, нельзя было быть уверенным, что он включится. Либо лампочка перегорит, либо выключатель сломается.

Вопрос приватности

У многих умных устройств есть функция телеметрии и сбора статистики использования, которая отсылается производителю. Без этого, очевидно, никак, потому что благодаря этим данным разработчики постоянно улучшают свою продукцию. Защита персональных данных и конфиденциальность — вообще больная тема и сейчас все больше разговоров о том, что стоит забыть о самом понятии приватность, едва вы начали пользоваться Интернетом. Или купили IoT устройство.

Умные устройства и приватность

Ошибки в интеграции устройств умного дома иногда приводят к тому, что дом становится настоящим врагом своего владельца, выдавая все его секреты. Компании в сфере информационной безопасностью прогнозируют, что в будущем проблема безопасности IoT будет только усугубляться. И ладно, скажем, никому нет дела до умных лампочек или жалюзи, но вот когда речь заходит об IP-камерах или домофонии — проблема становится гораздо серьезнее.

Индустрия умных устройств пока молода. Что делать?

Можно минимизировать вероятность возможных проблем, если заранее грамотно спроектировать умный дом. Хотя проектировать умный дом стало несколько проще, чем это было несколько лет назад, все равно для самостоятельного проекта потребуется изучить огромный объем информации. Одних знаний по электромонтажу и знаний Правил Устройства Электроустановок (ПУЭ) будет недостаточно — нужно еще разбираться в многочисленных технологиях, особенностей устройств от разных производителей, стандартах, а часто и в программировании.

Цена ошибки может быть достаточно велика. Иными словами, самостоятельная организация умного дома — это все еще тема для гиков, хотя и приобретает очертания масс-сегмента в последние годы. К чему мы клоним? Обращайтесь к специалистам. Например, к нам, в IBC Solutions. Поможем избежать типичных ошибок, сэкономим время, силы и деньги. Мы в IBC Solutions умеем проектировать умные дома, работающие как часы. Просто потому, что как и все начинающие энтузиасты, мы также ошибались и учились на ошибках. Только это было лет 10 назад. Поэтому, просто воспользуйтесь нашим опытом, чтобы дом был комфортным и не подводил в критичные моменты.

Системы «Умный Дом» Проектирование, Монтаж, Пусконаладка.

Благодаря современным технологиям управления освещением, шторами, аудио и видео, климатом и другими системами, ваш дом может трансформироваться в одно касание, с одной фразы или автоматически подстраиваться под вас.

#управление_освещением, #интеллектуальная_безопасность, #видеодомофония, #домашние_кинотеатры, #голосовые помощники, #удаленное_управление, #сценарии

подробнее...

Посетите
НАШ ШОУРУМ

Познакомим с нашими системами умного дома, расскажем об их возможностях, порекомендуем конкретные компоненты, подходящие вашему будущему умному дому.

Адрес:
г. Москва, станция метро Бауманская, Денисовский переулок, д.26.
(10 минут от м. Бауманская)

Режим работы:
пн–пт — с 10:00 до 20:00
сб — с 10:00 до 19:00 *
вс — с 10:00 до 19:00 *
* по предварительной записи

Записаться на презентацию

Бесплатный эскизный проект
Интеллектуальные системы, умные дома, автоматизация зданий.