На головную страницу TechnoDrive.ru  
ИТ-НОВОСТИ РОСТОВА
одна из 21975 страниц...

Искусственный интеллект нуждается в «правильном воспитании»

Как воспитать искусственный интеллект добрым и отзывчивым?Современный кинематограф всё чаще обращается к взаимоотношениям естественного и искусственного интеллекта. Яркими примерами являются фильмы «Из машины», — и «Дитя робота», вышедший в российский прокат этим летом. А первым, как мы помним, был Metropolis 1927 года. Впрочем, ситуация в реальном мире порой не уступает по напряжённости киносюжетам! Об этом свидетельствует доклад «Риски безопасности применений техник искусственного интеллекта», подготовленный экспертами Positive Technologies. И, если коротко, то проблема состоит не в том, что в Интернете уже присутствуют «конструктивный» и «деструктивный» AI (последний используется хакерами), — а в том, что любой из алгоритмов может, по сути, «переметнуться на другую сторону» из-за особенностей обучающей выборки.

Реклама: локальные сети бизнесу

«SkyNet выходит из пелёнок»

Технологии искусственного интеллекта сегодня невероятно популярны. Крупнейшие компании и стартапы наперегонки внедряют AI и машинное обучение по всему миру. Так, по данным Sand Hill Econometrics, наиболее активно искусственный интеллект осваивает торговлю, телеком, финансовые сервисы и высокие технологии (включая разработку новых продуктов и программного обеспечения).

При этом, несмотря на применение в ключевых отраслях экономики, машинное обучение остаётся уязвимым в плане информационной безопасности. Среди множества примеров, приведённых специалистами Positive Technologies, наиболее важным с нашей точки зрения является отсутствие у любой системы доступа к генеральной совокупности данных.

В этом плане искусственный интеллект на этапе обучения похож на человеческого ребёнка — какую обучающую выборку в него заложит окружение (родители, сверстники, школа), таким он и станет в дальнейшем (с поправкой на унаследованные гены — БЗ). Плюс, разумеется, собственный опыт — в виде выявления неявных зависимостей, — которые должны контролироваться на предмет истинности.

Иными словами, искусственный интеллект, как и естественный, нуждается в воспитании. Причём, чем более ответственные задачи ему предстоит решать, тем тщательнее должен быть контроль со стороны родителей- разработчиков.

«Ты всегда будешь в ответе за того, кого приручил»

В предыдущих публикациях, посвящённых искусственному интеллекту, TechnoDrive приводил примеры ошибок AI, вызванных недостатком информации. Например, когда нейросеть в больнице отпускала домой пациентов, одновременно болевших астмой и пневмонией. Причиной было 100% отсутствие осложнений у данной категории в обучающей выборке. В которую забыли включить информацию о назначении врачами дополнительного лечения всем таким пациентам.

Но проблема «неправильного обучения» нейросети может быть заметна не сразу. Ошибки первого и второго рода могут происходить редко и быть незаметны даже на больших интервалах времени. Вопрос лишь в цене такой ошибки, когда она всё-таки случится.

Если сильно торопиться, есть шанс «успеть»

На нынешнем этапе даже крупнейшие игроки рынка советуют разработчикам AI не торопиться с внедрением. Точнее, ограничивать применение машинного обучения теми сферами, где оно действительно необходимо. «Не бойтесь запускать продукт без машинного обучения» — так звучит правило №1, сформулированное Google.

Если же разработчик считает, что в данной ситуации искусственный интеллект — единственный оптимальный вариант, он должен нести личную ответственность за все последствия его решений.

На фоне постоянно снижающегося порога входа в индустрию Data Science это, вероятно, единственный способ обеспечить корректное функционирование ИТ-систем будущего — и соблюдение базовых требований информационной безопасности.

Комментарий издателя TechnoDrive.ru Бориса Зубова

Всё верно, но не секрет, что люди тоже ошибаются. «Венец эволюции» принимает неверные решения из-за переутомления на работе; семейных неурядиц; нарушений сознания, вызванных, скажем, интоксикациями. Кроме того, людям свойственны чисто человеческие «баги», такие как алчность, ревность, зависть или гнев. Понятно, что в подобных случаях принимаются не самые лучшие решения.

Таким образам, перед топ-менеджерами стоит вопрос, кто нанесёт меньше потенциального вреда (и принесёт больше прибыли!) — искусственный интеллект или человек в данной конкретной ситуации?

Хочется верить, что бизнес примет во внимание хотя бы то, что показывают в голливудских фильмах, а не сделает привычную ставку на максимальные доходы.

Чуть не забыли: у TechnoDrive есть группа ВКонтакте — и на Facebook. Подключайтесь!

Прогнозы TechnoDrive сбываются

Квартира будущего: сад, огород, музей, космос...


Наступление нового года — всегда повод задуматься о будущем. Под бой курантов мы загадываем желания и планируем грядущие достижения. А мировые ИТ-гиганты готовятся их воплощать, превосходя самые смелые ожидания. Возможно, поэтому знаменитая выставка потребительской электроники CES традиционно проходит в начале января. И каждый раз удивляет своих посетителей!.. Не стал исключением и нынешний год. На CES 2020 компания Samsung объявила о начале «Эпохи впечатлений», стирающей границы физического и цифрового миров. И в новой реальности за этими впечатлениями не придётся далеко ехать! Уже сегодня технологии могут превратить вашу квартиру в музей, студию йоги, дачный участок (с настоящим урожаем!) или экзотичный курорт, — в зависимости от текущих потребностей. А дальше — больше!
подробнее

Таганрог наладит «телепатическую связь» между людьми и роботами


Создание универсального интерфейса «мозг-компьютер» является одним из важнейших вызовов XXI века. С одной стороны, в данной технологии остро нуждаются люди с ограниченной подвижностью (и повреждёнными органами чувств), с другой — в цифровом мире «телепатия» между человеком и компьютерами открывает впечатляющие горизонты. И ставит новые задачи! Ведь массовое BCI-устройство должно быть доступным по цене, простым в использовании, — а также иметь общедоступные SDK и API для разработчиков сторонних приложений. Именно таким оказался нейроинтерфейс BrainBit, предложенный таганрогской компанией «Нейротех» и уже воплощённый в серийном электроэнцефалографе с беспроводным интерфейсом.
подробнее

Онлайн-образование в России становится модным


Характерной чертой XXI века является стремительная смена технологий, влияющая на все сферы нашей жизни. Под воздействием этой непрерывной гонки меняются требования работодателей. Да и в повседневной жизни нужно постоянно быть «в курсе трендов», — иначе вам придётся полагаться на чужое мнение, которое не всегда совпадает с вашими интересами. Конечно, лучшим способом «быть на волне инноваций» является постоянное образование — курсы повышения квалификации, самостоятельное изучение профильной литературы и IT-новостей, общение на специализированных форумах. И с каждым днём это понимает всё больше россиян!.. В частности, по данным Академии АйТи, онлайн-образование в России стало одним из трендов. Причём всё чаще пользователи Интернета интересуются не «дипломом-корочкой», а конкретным результатом.
подробнее

Министр связи России: «никаких особых сервисов для 5G пока нет»


В среду министерство цифрового развития, связи и массовых коммуникаций России опубликовало интервью главы ведомства Константина Носкова. Среди множества актуальных вопросов отдельное внимание в нём уделено перспективам сетей 5G в нашей стране и мире. В частности, министр подтверждает точку зрения TechnoDrive о бессмысленности применения 5G для решения текущих задач — доставки «тяжёлого» контента на мобильные устройства и классической телеметрии. По мнению Константина Носкова, с такими задачами успешно справятся существующие сети четвёртого поколения. А необходимость запуска 5G будет продиктована совсем иными сервисами, которых в России пока нет.
подробнее

«Ростелеком» презентовал Таганрог как первый «умный город» ЮФО


«Ростелеком» внедрил в Таганроге комплекс смарт-решений, позволяющих городу называться первым «умным» на юге России. В распоряжении таганрожцев появились такие системы, как «Умное освещение», «Безопасный город», «Умное видеонаблюдение», «Умный домофон», электронные сервисы для медицины и «цифровой дневник». Появление этих решений стало возможным благодаря трёхстороннему соглашению, подписанному в сентябре 2018 года между Правительством Ростовской области, Администрацией Таганрога и ПАО «Ростелеком» на форуме «Информационная безопасность и импортозамещение» в Ростове-на-Дону.
подробнее
Ещё информация !!!  Прогнозы TechnoDrive сбываются