02 сентября 2012

Наука



Суперумные компьютеры или роботы, угрожающие существованию человеческого рода – излюбленный сюжет научной фантастики. В реальности, по мнению учёных,  подобный сценарий судного дня можно предотвратить только создав виртуальную «тюрьму» для содержания искусственного интеллекта (ИИ). И сделать это надо до того, как он научится осознавать и совершенствовать самого себя.


Если выпустить этого джина из бутылки, то из оракула, который решает наши проблемы, он может превратиться в апокалипсическую угрозу, – уверен Роман Ямпольский,  учёный из Луисвиллского университета (шт. Кентукки), работающий в области компьютерных наук. Необходимо тщательно спланировать условия, в которых будет содержаться ИИ – так, чтобы он не смог вырваться на свободу при помощи угроз, подкупа, соблазна или компьютерного взлома.

«Он может изобрести множество способов воздействия, провернуть сложную социо-инженерную комбинацию и использовать уже существующие аппаратные компоненты в целях, которые мы не можем даже вообразить, – полагает Ямпольский. – Такой софт обладает неограниченными возможностями для заражения компьютеров и сетей. ИИ может найти способы воздействовать на человеческую психику, подкупать или шантажировать людей, которые находятся с ним в контакте».

Появление новой сферы научных исследований, занимающейся проблемой создания «тюрьмы» для искусственного интеллекта, имеет и дополнительные преимущества. Эти исследования очень полезны  для улучшения компьютерной безопасности и криптографии, уверен Ямпольский. Его предложения были детально изложены в мартовском номере академического издания Journal of Consciousness Studies. Робот-убийца из фильма "Терминатор" как раз является таким будущим, которого мы хотели бы избежать

Самый безопасный способ общения с ИИ – заставить его, при решении специфической научной или технической задачи, выбирать ответ из множества имеющихся вариантов, – объясняет Ямпольский. Это поможет держать супер-умного оракула на коротком поводке. Многие исследователи считают, что, несмотря на все меры предосторожности, держать умника ИИ под замком бесконечно не удастся. Последний эксперимент Элиэзера Юдковского, научного сотрудника Института сингулярности по созданию Искусственного Интеллекта, показал, что даже интеллект человеческого уровня  может обмануть человека и «сбежать» из заточения.
 
Тем не менее, Ямпольский настаивает на содержании ИИ в строгой изоляции – это всё же лучше, чем махнуть рукой и предоставить ему полную свободу. Но если развитие ИИ достигнет точки, когда он сможет манипулировать человеком, используя подсознание (предсказание будущего), телепатию или телекинез – последствия будут непредсказуемы.
«Если такой ИИ будет самосовершенствоваться и достигнет уровня значительно превышающего возможности человеческого интеллекта, последствия невозможно даже представить» – предостерегает Ямпольский.

  Читайте так-же:
  1. Технологический прогресс ограничивает нашу свободу?
  2. Tехнологии делают научную фантастику реальностью
  3. Аватар человечества 
  4. Странное дело. Назад в будущее
  5. Передача данных по нейтринному лучу возможна. Доказано опытом
  6. Тайны шаровой молнии
  7. 10 высказываний А.Эйнштейна
  8. Доктор Хоффман, Кислотный Гений (LSD)
  9. Сверхлюди (человек-трансформатор)
  10. Немцы придумали "выключатель боли"
  11. Реальна ли опасность «Робокалипсиса»?
  12. Там, где встречаются наука и буддизм
  13. НЛО – Пришельцы или Людские Технологии?
  14. Круги на полях показывают изменения в ДНК
  15. Инопланетные технологии
  16. В коллективной памяти муравьев хранится запах врагов
  17. Машинка которая превращает пластик в масло
  18. Наука 2.0. Видеть невидимое
  19. Пшикалка превращает всё в антенну
  20. Японцы создали первого робота – аватара
  21. Ученые собираются доказать что вселенная всего лишь – голограмма
  22. Филадельфийский эксперимент и Вознесение
  23. Оптогенетика
  24. Властелин мира.Никола Тесла
  25. Нумерология 
  26. Парк виртуальной реальности
  27. Технологии древних цивилизаций – Измерение времени
  28. Наука. ГМО - Ген скорпиона. Должен знать каждый!
  29. Первый в мире 3-D челюстной трансплант
  30. Самые страшные и необычные оружия мира
  31. Человеко-подобные роботы уже здесь
  32. Мы близки к выращиванию человеческих органов
  33. Вечный двигатель
  34. Ученые обнаружили дыру во времени
  35. Виртуальный телескоп размером с планету
  36. Средства зомбирования
  37. Верные против киборгов - к последней схватке
  38. Почему путешествия во времени всё-таки возможны 
  39. Учёные вылечили рак, но этого никто не заметил
  40. Эксперты усомнились в безопасности наноматериалов
  41. Если вы покупаете технологию Apple, то хоть прочитайте правду об их изготовлении
  42. Пожары будут тушить электричеством
  43. Нано Авто-роботы делают сложные трюки в полёте
  44. ИК-камуфляж превращает автомобиль в танк
  45. Люди уже влюбляются в Роботов
  46. Ученые сумели услышать "голос мозга"
  47. Чипирование уже рекламируют, готовтесь...
  48. Распыление Нано-Технологии "Умная пыль"
  49. Спецслужбы создают Человека Будущего
  50. Ученые изучили реакцию мозга на страдания других
  51. Развенчаны десять главных мифов человечества
  52. Физикам удалось скрыть трехмерный объект: 18-сантиметровый цилиндр
  53. Созданы очки для глубокого погружения в виртуальный мир
  54. ИЗВЕСТНЫЕ УЧЁНЫЕ – О БЕССМЕРТНОЙ ДУШЕ ЧЕЛОВЕКА
  55. Технология перешла границы невозможного!
  56. Квантовая физика и Бессознательное
  57. Свободную энергию ТРОЛЛят