На головную страницу TechnoDrive.ru  
ИТ-НОВОСТИ РОСТОВА
одна из 22038 страниц...

Искусственный интеллект нуждается в «правильном воспитании»

Как воспитать искусственный интеллект добрым и отзывчивым?Современный кинематограф всё чаще обращается к взаимоотношениям естественного и искусственного интеллекта. Яркими примерами являются фильмы «Из машины», — и «Дитя робота», вышедший в российский прокат этим летом. А первым, как мы помним, был Metropolis 1927 года. Впрочем, ситуация в реальном мире порой не уступает по напряжённости киносюжетам! Об этом свидетельствует доклад «Риски безопасности применений техник искусственного интеллекта», подготовленный экспертами Positive Technologies. И, если коротко, то проблема состоит не в том, что в Интернете уже присутствуют «конструктивный» и «деструктивный» AI (последний используется хакерами), — а в том, что любой из алгоритмов может, по сути, «переметнуться на другую сторону» из-за особенностей обучающей выборки.

Реклама: локальные сети бизнесу

«SkyNet выходит из пелёнок»

Технологии искусственного интеллекта сегодня невероятно популярны. Крупнейшие компании и стартапы наперегонки внедряют AI и машинное обучение по всему миру. Так, по данным Sand Hill Econometrics, наиболее активно искусственный интеллект осваивает торговлю, телеком, финансовые сервисы и высокие технологии (включая разработку новых продуктов и программного обеспечения).

При этом, несмотря на применение в ключевых отраслях экономики, машинное обучение остаётся уязвимым в плане информационной безопасности. Среди множества примеров, приведённых специалистами Positive Technologies, наиболее важным с нашей точки зрения является отсутствие у любой системы доступа к генеральной совокупности данных.

В этом плане искусственный интеллект на этапе обучения похож на человеческого ребёнка — какую обучающую выборку в него заложит окружение (родители, сверстники, школа), таким он и станет в дальнейшем (с поправкой на унаследованные гены — БЗ). Плюс, разумеется, собственный опыт — в виде выявления неявных зависимостей, — которые должны контролироваться на предмет истинности.

Иными словами, искусственный интеллект, как и естественный, нуждается в воспитании. Причём, чем более ответственные задачи ему предстоит решать, тем тщательнее должен быть контроль со стороны родителей- разработчиков.

«Ты всегда будешь в ответе за того, кого приручил»

В предыдущих публикациях, посвящённых искусственному интеллекту, TechnoDrive приводил примеры ошибок AI, вызванных недостатком информации. Например, когда нейросеть в больнице отпускала домой пациентов, одновременно болевших астмой и пневмонией. Причиной было 100% отсутствие осложнений у данной категории в обучающей выборке. В которую забыли включить информацию о назначении врачами дополнительного лечения всем таким пациентам.

Но проблема «неправильного обучения» нейросети может быть заметна не сразу. Ошибки первого и второго рода могут происходить редко и быть незаметны даже на больших интервалах времени. Вопрос лишь в цене такой ошибки, когда она всё-таки случится.

Если сильно торопиться, есть шанс «успеть»

На нынешнем этапе даже крупнейшие игроки рынка советуют разработчикам AI не торопиться с внедрением. Точнее, ограничивать применение машинного обучения теми сферами, где оно действительно необходимо. «Не бойтесь запускать продукт без машинного обучения» — так звучит правило №1, сформулированное Google.

Если же разработчик считает, что в данной ситуации искусственный интеллект — единственный оптимальный вариант, он должен нести личную ответственность за все последствия его решений.

На фоне постоянно снижающегося порога входа в индустрию Data Science это, вероятно, единственный способ обеспечить корректное функционирование ИТ-систем будущего — и соблюдение базовых требований информационной безопасности.

Комментарий издателя TechnoDrive.ru Бориса Зубова

Всё верно, но не секрет, что люди тоже ошибаются. «Венец эволюции» принимает неверные решения из-за переутомления на работе; семейных неурядиц; нарушений сознания, вызванных, скажем, интоксикациями. Кроме того, людям свойственны чисто человеческие «баги», такие как алчность, ревность, зависть или гнев. Понятно, что в подобных случаях принимаются не самые лучшие решения.

Таким образам, перед топ-менеджерами стоит вопрос, кто нанесёт меньше потенциального вреда (и принесёт больше прибыли!) — искусственный интеллект или человек в данной конкретной ситуации?

Хочется верить, что бизнес примет во внимание хотя бы то, что показывают в голливудских фильмах, а не сделает привычную ставку на максимальные доходы.

Чуть не забыли: у TechnoDrive есть группа ВКонтакте — и на Facebook. Подключайтесь!

Прогнозы TechnoDrive сбываются

Сегодня сайту TechnoDrive.ru ровно 19 лет


Так и есть, это правда. Заголовок — это не кликбейт. Мы никогда не публиковали ложную или двусмысленную информацию. Поэтому, видимо, и проработали так долго, с 21 марта 2001 года до настоящего времени. Wow! Это много даже по космическим меркам! К примеру, огромный Юпитер, — и 79 его спутников, — обращаются вокруг Солнца всего за 12 лет) И самое ценное в нашем удивительном путешествии, это даже не технологии, а люди, с которыми довелось повстречаться.
подробнее

BCI Samara — это сразу несколько нейроконференций


Кроме того, это единственная в России научная конференция, специализирующаяся именно на тематике нейрокомпьютерных интерфейсов. Она ежегодно проводится Самарским государственным медуниверситетом. За 5 лет BCI Samara стала известной в мире эффективной коммуникативной и дискуссионной площадкой ведущих зарубежных и российских учёных для обмена информацией о последних достижениях нейронауки.
подробнее

В Ростовской области началась «гонка ветроэлектростанций»


Одним из значимых событий для донской энергетики в 2020 году станет запуск первой в Ростовской области ветроэлектростанции. Впрочем, пока ещё не факт, что упомянутый выше проект компании «Энел Россия» приступит к выработке «зелёной» электроэнергии первым. Ведь на территории региона компании «Фортум» и «РОСНАНО» уже активно ведут строительство Сулинской ВЭС, — и планируют запустить её в промышленную эксплуатацию уже в первом полугодии. Какой же из этих проектов получит статус первой ветроэлектростанции Дона?
подробнее

Квартира будущего: сад, огород, музей, космос...


Наступление нового года — всегда повод задуматься о будущем. Под бой курантов мы загадываем желания и планируем грядущие достижения. А мировые ИТ-гиганты готовятся их воплощать, превосходя самые смелые ожидания. Возможно, поэтому знаменитая выставка потребительской электроники CES традиционно проходит в начале января. И каждый раз удивляет своих посетителей!.. Не стал исключением и нынешний год. На CES 2020 компания Samsung объявила о начале «Эпохи впечатлений», стирающей границы физического и цифрового миров. И в новой реальности за этими впечатлениями не придётся далеко ехать! Уже сегодня технологии могут превратить вашу квартиру в музей, студию йоги, дачный участок (с настоящим урожаем!) или экзотичный курорт, — в зависимости от текущих потребностей. А дальше — больше!
подробнее

Таганрог наладит «телепатическую связь» между людьми и роботами


Создание универсального интерфейса «мозг-компьютер» является одним из важнейших вызовов XXI века. С одной стороны, в данной технологии остро нуждаются люди с ограниченной подвижностью (и повреждёнными органами чувств), с другой — в цифровом мире «телепатия» между человеком и компьютерами открывает впечатляющие горизонты. И ставит новые задачи! Ведь массовое BCI-устройство должно быть доступным по цене, простым в использовании, — а также иметь общедоступные SDK и API для разработчиков сторонних приложений. Именно таким оказался нейроинтерфейс BrainBit, предложенный таганрогской компанией «Нейротех» и уже воплощённый в серийном электроэнцефалографе с беспроводным интерфейсом.
подробнее
Ещё информация !!!  Прогнозы TechnoDrive сбываются