З днем ​​технологічної сингулярності. Сингулярність в історії

Техніка увійшла до нашого життя дуже давно, і важливість її безсумнівна. Вивченням феномена техніки займалося багато філософів, займаються і зараз. Мартін Хайдеггер, розмірковуючи про сучасні феномени, зокрема про феномен техніки, розглядав явища, які не відбуваються зараз. Він розглядав можливі явища у перспективі. Існуючий стан справ Хайдеггер оцінює негативно. Аналізуючи техніку, він показує, що трактування її як нейтрального феномена, як і засоби діяльності, закриває можливість зрозуміти сутність техніки, приховує можливість свідомо впливати неї. Хайдеггер каже, що «найгіршим чином ми віддаємося у владу техніки тоді, коли розглядаємо її як щось нейтральне; адже таке уявлення про техніку, нині особливо поширене, робить нас абсолютно сліпими щодо сутності техніки». Він вводить трактування техніки як «постава» (будь-яка техніка розглядається як функціональний елемент постачаючого виробництва), показуючи потім, що людина і природа самі перетворюються на постав і тим самим блокує звичне для нас переконання, що людина стоїть над технікою і природою і що техніка не впливає природу.

Негативну оцінку техніки Хайдеггер висловлює у таких словах: «Небезпечна не техніка сама собою. Немає жодного демонізму техніки; та є таємниця її істоти. Істота техніки як місія розкриття таємниці - це ризик. Змінене нами значення слова “постав”, можливо, стане нам трохи ближчим, якщо ми подумаємо тепер про поставу в сенсі посланості та небезпеки». Хайдеггер прагне показати, що техніка не є чимось зовнішнім до буття, а збігається з ним. Тому для того, щоб вплинути на техніку в потрібному напрямку, потрібно змінювати і саме буття: «Якщо істота техніки, поставши як ризик, надісланий буттям, є саме буття, то техніку ніколи не вдасться взяти під контроль просто вольовим зусиллям, будь воно позитивним і негативним. . Техніка, чия істота є саме буття, ніколи не дасть людині подолати себе. Це означало б, що людина стала паном життя» . Але відразу стверджує, що й без свідомих зусиль людини техніка не може змінитися. Можна сказати, що необхідною умовою осмисленого впливу на техніку є, за Хайдеггером, робота людини над собою: людина повинна згадати і зрозуміти свої вищі цінності, щоб підкорити цінності не такі високі: комфорту, влади над природою і т.п.

Проблема, порушена Хайдеггером, дуже складна. Її не можна вирішити лише технічними методами. Проблема співіснування людини та техніки хвилююча і зараз. Є чимало робіт, що вийшли у світ відносно нещодавно, що стосуються цієї тематики. Аналіз однієї з таких статей, що перегукується з основними ідеями Хайдеггера, викладеними вище, присвячений даний реферат.

1993 року на симпозіумі VISION-21, який проводився 1993 року Центром космічних досліджень NASA ім. Льюїса та Аерокосмічним інститутом Огайо, була представлена ​​стаття «Наступна технологічна сингулярність: як вижити в пост-людську еру». Автором доповіді був математик та письменник Вернор Віндж (Vernor Vinge). 2003 року автор доповнив цю статтю деякими коментарями. Стаття була написана понад десять років тому, але актуальна й досі. Ті коментарі, які вніс автор через десять років після початкового написання, лише доповнюють початкову статтю.

Ґрунтуючись на перекладі цієї статті з коментарями та на деяких інших джерелах, у цьому рефераті я хотів би приділити увагу наступним питанням: що таке «технологічна сингулярність», як вона може вплинути на людство, як людство може вплинути на неї, чи має сенс приділяти їй будь-яка увага, ставитись до неї як до релігії або як до наукової (псевдо-наукової) теорії.

Що таке Сингулярність?

Термін сингулярність (лат. singularis - окремий, особливий) запозичений у астрофізиків, які використовують його при описі космічних чорних дірок і, в деяких теоріях, початку всесвіту - крапки з нескінченно великими масою і температурою та нульовим об'ємом. Математично сингулярність – точка функції, значення функції у якій прагне нескінченності, чи інші подібні " цікаві " точки. Яке ставлення може мати поняття сингулярності до технології?

Однією з особливостей ХХ століття є прискорення технічного прогресу. Людство стоїть на межі змін, які можна порівняти з появою розумної людини на землі. Головна причина цих змін у тому, що вдосконалення та розвиток техніки призводить до того, що техніка стає все більш витонченою та «розумною». Все це веде до створення сутності з інтелектом, що перевищує людську. Бачиться кілька шляхів, якими наука може досягти такого прориву:

1. Комп'ютери знайдуть "свідомість", і виникне надлюдський інтелект. (В даний час немає єдиної думки про те, чи зуміємо ми створити машину, рівну людині, проте, якщо це вийде, безсумнівно, незабаром потім можна буде сконструювати ще розумніші істоти).

2. Великі комп'ютерні мережі (та його об'єднані користувачі) можуть " усвідомити себе " як надлюдськи розумні сутності.

3. Машинно-людський інтерфейс стане настільки тісним, що інтелект користувачів можна буде обґрунтовано вважати надлюдським.

4. Біологія може забезпечити нас засобами покращення природного людського інтелекту.

Перші три можливості безпосередньо пов'язані з удосконаленням комп'ютерного апаратного забезпечення. Четверта можливість також залежить від цього, хоч і побічно. Прогрес апаратного забезпечення протягом кількох десятиліть разюче стабільний. Виходячи з цієї тенденції, автор статті робить висновки, що інтелект, який перевершує людський, з'явиться протягом найближчих тридцяти років. Щодо цього, звичайно ж, можна легко знайти дотепну критику. Чарльз Плат, наприклад, зауважив, що ентузіасти штучного інтелекту роблять подібні твердження вже років тридцять. Тому Віндж вказує суворіші часові рамки: це має статися між 2005 та 2030 роками. Заява ця була зроблена ще 1993 року, а 2004 року автор, доповнюючи свою статтю коментарями, підтвердив свою впевненість у цих термінах. Вважаю, що однією з ознак, що використовуються для отримання цієї дати, був закон Мура, який проголошує: кількість транзисторів на нових кристалах мікропроцесорів подвоюється кожні півтора роки. Якраз між 2015-2030 роками обчислювальна потужність комп'ютерів зрівняється з потужністю людського мозку, що оцінюється в 10 16 операцій на секунду (а потім перевершить її). Крім того, далі за текстом статті Вернон Віндж посилається на деякі криві зростання продуктивності. Схоже, що вони мають гіперболічний вигляд, а особлива точка якраз припадає на зазначений період.

Виникає питання: якими будуть наслідки наукового прориву та появи надлюдського розуму? Автор статті дає свою відповідь на це запитання. Прогрес, спрямований інтелектом, що перевершує людський, стане значно стрімкішим. Немає підстав вважати, що прогрес стане плодити дедалі розумніші сутності темпами, що прискорюються. Найкраща аналогія, яку можна тут провести – наше еволюційне минуле. Тварини можуть пристосуватися та виявляти винахідливість, але швидкість еволюції обмежена природним відбором. Що стосується природного відбору світ сам виступає у ролі свого симулятора. Ми, люди, маємо здатність засвоювати навколишній світ і вибудовувати в голові причинно-наслідкові зв'язки, тому ми вирішуємо багато проблем у тисячі разів швидше, ніж механізм природного відбору. Коли ж з'явиться можливість прораховувати ці моделі з вищими швидкостями, ми увійдемо в режим, який відрізняється від нашого людського минулого не менш радикально, ніж ми, люди, самі відрізняємося від нижчих тварин.

Подія ця девальвує все зведення людських законів через непотрібність. Можливо, це станеться дуже швидко. Зміни розвиватимуться за експонентом без жодної надії на відновлення контролю за ситуацією. Цю подію Віндж назвав Сингулярністю (саме так, з великої літери). «Це точка, в якій наші старі моделі доведеться відкинути, запанує нова реальність. Це світ, обриси якого будуть ставати все чіткішими, насуваючись на сучасне людство, поки ця нова реальність не заслонить собою навколишню дійсність, ставши буденністю. І все ж, коли ми такої точки нарешті досягнемо, ця подія все одно стане великою несподіванкою та ще більшою невідомістю». (Тут і далі, якщо не вказано протилежне, джерелом цитати є стаття, що розглядається.)

Великий учений у галузі обчислювальної техніки Джон фон Нейман вів одного разу розмову зі Стеном Юламом «…про безперервно прискорюваний технічний прогрес і зміни в способі життя людей, які створюють враження наближення деякої найважливішої сингулярності в історії земної раси, за якою всі людські справи, у тому вигляді , У якому ми їх знаємо, не зможуть продовжуватися »

У середині двадцятого століття, у шістдесяті роки, Ірвінг Джон Гуд писав: «Визначимо надрозумну машину як машину, яка здатна значно перевершити всі інтелектуальні дії будь-якої людини, хоч би якою вміною вона була. Оскільки здатність розробити таку машину також одна із цих інтелектуальних дій, надрозумна машина може побудувати ще більш досконалі машини. За цим, безсумнівно, буде "інтелектуальний вибух", і розум людини набагато відстане від штучної. Таким чином, перша надрозумна машина стане останнім винаходом, який випаде на долю людини, за умови, що машина буде досить покірною і повідає нам, як тримати її під контролем... І ймовірність того, що в двадцятому столітті надрозумна машина буде побудована і стане останнім винаходом, який зробить людина, вища, ніж ймовірність того, що цього не станеться»

Щоб не спекулювати на тему штучного інтелекту, кидаючись голослівними твердженнями, необхідно зробити невеликий екскурс у проблему вивчення штучного інтелекту, а головне, проблему визначення штучного інтелекту.

Що таке штучний інтелект

Щоб відповісти питанням «Що таке штучний інтелект», звернувся до запровадження до монографії Петрунина Ю.Ю. «Від таємного знання нейрокомп'ютера: Нариси з історії штучного інтелекту». У ній представлений надзвичайно повний і об'єктивний погляд на проблему реалізованості штучного інтелекту.

З приводу штучного інтелекту у колі фахівців із цього питання постійно виникають суперечки за будь-якої зручної нагоди. Головне питання, яке при цьому виникає: чи можливий штучний інтелект? Чи можна навчити машину думати? Чи вірите Ви у можливість створення штучного інтелекту? У всіх цих питаннях використовується модальність вірування, з чого можна зробити висновок, що питання про штучний інтелект виходить за рамки наукового. Патрік Вінстон, один із найбільших авторитетів у цій галузі, сказав: «Щодо розуму обчислювальних машин… є багато ходячих міфів» . Можна сказати, що сам термін «штучний інтелект» означає міф, який широко проник у сучасну звичайну та наукову свідомість. У разі міф мається на увазі не як помилковість якогось уявлення, бо як те, що це уявлення може бути перевірено емпірично і раціонально обгрунтовано.

Для емпіричної перевірки потрібно чітке уявлення у тому, що саме перевіряти, тобто. Точне уявлення у тому, що таке штучний інтелект. Але з цього приводу А. Ендрю зауважує: «По суті останній так і не отримав достатньо задовільного визначення. Тому, … зрештою, нам доведеться повернутися до нашого інтуїтивного уявлення про інтелект» .

Реферативний журнал "Abstracts in Artificial intelligence" (The Turing institute, ed. J. Ritchie) вводить наступний поділ штучного інтелекту на проблеми:

1. Експертні системи

2. Застосування штучного інтелекту

3. Автоматичне програмування

4. Автоматичний доказ теорем

5. Логічне програмування

6. Навчання

7. Природна мова

8. Пошук

9. Управління та планування

10. Робототехніка

11. Зір та обробка зображень

12. Розпізнавання образів

13. Когнітивне моделювання

14. Взаємодія людини та ЕОМ

15. Технічні засоби для штучного інтелекту

Список досить значний. Завдання дуже різні. Що їх об'єднує?

«Якби фізики чи хіміки взялися дати абстрактні визначення своїх галузей знання, – підкреслює Еге. Хант, – то швидше за все не знайшли б розбіжностей ні серед тих, ні серед інших. Навряд чи виявилася б така одностайність, якби довелося зібрати разом різних учених, які займаються штучним інтелектом» .

Існує чимало визначень штучного інтелекту. Але вони всі настільки різні, що здається, ніби йдеться про різні речі. Так, одні вважають, що інтелект – це вміння вирішувати складні завдання, інші – здатність до навчання, треті – можливість взаємодії із зовнішнім світом шляхом узагальнення сприйняття. Є вчені, які розвивають теоретичну модель, де за здійснення інтелектуальної діяльності відповідає близько 120 чинників. Із них лише 50–60 відомі сьогодні.

Однією з уявних виходів із ситуації є звернення до природного інтелекту як до зразка. Можна було б сказати, що машина має інтелект, якщо те завдання, яке вона виконує, вимагало б від людини, якби людина була на місці машини, інтелектуальних зусиль. Хороше твердження? На жаль, перевіряючи його, легко дійти абсурду: при виконанні арифметичних дій людина використовує свій інтелект – це ні в кого не викликає сумнівів, але твердження, що звичайний калькулятор має інтелект не прийме ніхто.

У 1950 році британський математик і фахівець у галузі обчислювальної техніки Алан Т'юрінг запропонував тест, який дозволяє визначити, чи є випробуване щось думаючим чи ні. Суть тесту полягає у наступному. Суддя (людина) листується природною мовою з двома співрозмовниками, одна з яких – людина, інша – комп'ютер. Якщо суддя не може надійно визначити, хто є хтось, комп'ютер пройшов тест. Передбачається, що кожен із співрозмовників прагне, щоб людиною визнали його. Щоб зробити тест простим та універсальним, листування зводиться до обміну текстовими повідомленнями. Листування повинне проводитися через контрольовані проміжки часу, щоб суддя не міг робити висновків, виходячи зі швидкості відповідей. Це з тим, що у часи Тьюринга комп'ютери реагували повільніше людини. Зараз це правило необхідно, тому що вони реагують набагато швидше, ніж людина. Тест був інспірований салонною грою, під час якої гості намагалися вгадати стать людини, яка перебуває в іншій кімнаті, шляхом написання запитань та читання відповідей. В оригінальному формулюванні Тьюринга, людина мала прикидатися людиною протилежної статі, а тест тривав 5 хвилин. Зараз ці правила не вважаються необхідними та не входять до специфікації тесту.

1964 року великим американським кібернетиком Дж. Вейценбаумом була створена програма «Еліза» (ELIZA), що імітує поведінку психіатра. Пацієнти, з якими розмовляла ця програма, здебільшого були впевнені, що спілкуються з лікарем. Проте успіх цієї програми нікого не може змусити вважати її штучним інтелектом. Не були виконані серйозні умови проходження тесту - випробувачі не були повідомлені, що вони зараз проводять випробування.

Поки що жодна програма і близько не підійшла до тестування. Такі програми, як «Еліза», іноді змушували людей вірити, що вони розмовляють із людиною, як, наприклад, у неформальному експерименті, названому AOLiza. Але такі «успіхи» є проходженням тесту Тьюринга. По-перше, людина в таких бесідах не мала жодних підстав вважати, що вона говорить з програмою, тоді як у справжньому тесті Тьюринга людина активно намагається визначити, з ким вона розмовляє. По-друге, документовані випадки зазвичай ставляться до таких чатів, як IRC, де багато розмов уривчасті і безглузді. По-третє, багато користувачів IRC використовують англійську як другу чи третю мову, і безглузда відповідь програми, ймовірно, спишеться ними на мовний бар'єр. По-четверте, багато користувачів нічого не знають про Елізу та її подібні програми і не можуть розпізнати зовсім нелюдські помилки, яких ці програми припускаються.

Проти тесту Тьюринга було висунуто кілька заперечень:

1. Машина, що пройшла тест, може бути розумної, а слідувати якомусь хитрому набору правил. (Поширене контрзаперечення: звідки ми знаємо, що людина не слідує якомусь хитрому набору правил?)

2. Машина може бути розумною і не вміючи розмовляти, як людина

3. Деякі цілком розумні люди провалять цей тест (наприклад, маленькі діти чи неписьменні)

4. Якщо тест Тьюринга і перевіряє наявність розуму, він не перевіряє свідомість (consciousness) і свободу волі (intentionality), цим не вловлюючи важливих відмінностей між розумними людьми і розумними машинами.

Щорічно проводиться змагання між програмами, що розмовляють, і найбільш людиноподібною, на думку суддів, присуджується приз Лебнера (Loebner). Є додатковий приз для програми, яка, на думку суддів, пройде тест Т'юрінга. Цей приз ще не присуджувався.

Але це ще не все, ситуація заплутана ще сильніше. Якщо комп'ютер зможе читати будь-який текст і робити короткий огляд його, чи буде ця машина вважатися розумною? Так може запитати вчений, який займається штучним інтелектом, у критика. І критик, швидше за все, з впевненістю відповість позитивно. Але якщо йому показати таку програму, а потім, на своє лихо, дозволити подивитися на її текст, на те, як вона працює, та й взагалі, дати розібратися в ній як слід, то програмі інтелектуальності буде відмовлено. З цього приводу дуже добре сказав П. Уїнстон: «Бути інтелектуальним – отже, бути загадковим. Як він [Він – це якийсь безособовий суб'єкт, який виявив кмітливість] міг до цього дійти? – питаємо ми. Доки походження ідеї залишається незрозумілим, вона виглядає як одкровення, але як тільки на поверхню виходить її пояснення, ми дивуємося: "Як це я про це не подумав, адже це так очевидно!" Коли процес виявиться розділеним на частини, вивченим та зрозумілим, схоже, що інтелект зникає».

Поняття інтелекту видається невловимим. "Насправді, дати визначення, - резюмує свої міркування П. Уїнстон, - у звичайному сенсі цього слова, мабуть, неможливо". А Мічі і Джонсон помічають дуже дотепно: «За відсутністю більш точного визначення машинного інтелекту його можна охарактеризувати словами: "Точного визначення я не можу дати, але завжди зможу дізнатися, коли побачу"». Мені це визначення здається найбільш симпатичним, хоч і дещо комічним. Схоже, що нічого чіткішого і ясного все одно не передбачається. А для даного реферату визначення це підходить, як на мене, дуже добре.

На закінчення цього невеликого екскурсу в проблему штучного інтелекту, хочу зазначити, що слова «штучний інтелект», «механічний мозок», «машинний розум» вживаються зараз дуже часто, тому ми не помічаємо парадоксальність цих словосполучень. Дійсно, слово «машинний» означає щось механічне, несвідоме, мимовільне, що суворо повторюється. «Інтелект» означає щось оригінальне, творче, неформалізоване, непередбачуване, яке не підкоряється жодним правилам. Виходить, що в одному словосполученні злилися два протилежні за змістом поняття. "Холодне полум'я", "темне світло" - ось приклади подібних словосполучень. Їх зазвичай можна зустріти у поезії, художній літературі. Як взагалі може бути осмисленим визначення «штучний інтелект», якщо воно є, по суті, contradicto in adjecto (суперечність у визначенні)? Але розвивати цю тему ми не будемо.

Симптоми Сингулярності

Отже, у 60-ті – 80-ті роки ХХ століття усвідомлення того, що гряде якийсь катаклізм, зростало. Ймовірно, першими відчули його вплив письменники фантасти. Адже саме науковій фантастиці слід передбачати, чим обернеться та чи інша технологія в майбутньому. Якщо раніше уяву легко переносило на мільйони, мільярди років уперед (наприклад, «Машина часу» Герберта Уеллса), то тепер найбільше прогнозів відноситься до найближчого завтра. Невідомому завтра! Письменники винайшли безліч хитрощів для того, щоб не зв'язуватися з розумними машинами у своєму сюжеті. Так чи інакше їх роблять безпечними. Для мене найбільш бентежним ходом було наділення машин соліпсизмом у тому сенсі, що вони не вірять у реальність навколишнього світу, у події, що відбуваються з ними, тому легко підкоряються людині.

Машинний розум досі не створено. Критики машинного розуму часто заявляють, що штучним інтелектом займаються вже дуже давно, а його так і не отримано. Але, мабуть, така природа людини, що він любить забувати, що він хотів отримати спочатку. Так, багато завдань, які відносяться до штучного інтелекту, так чи інакше вже вирішені. Наприклад, завдання розпізнавання образів давно вже вийшло з галузі суто наукових досліджень. Існує кілька комерційних продуктів, які займаються розпізнаванням друкованого тексту (ABBYY FineReader), рукописного тексту (Paragon PenReader). Ці продукти з поставленими завданнями цілком справляються. Тільки от люди хочуть від них все більшого та більшого. Бажають не 90% якості розпізнавання, а 95%. Коли досягається цей рубіж, вони хочуть 99% тощо. І весь час незадоволені! Говорять, що все погано і неправильно, можна розпізнавати краще, людина розпізнає краще і т.п. Адже й люди не всякий текст можуть зрозуміти. Але з користувачами не посперечаєшся. Ось і виходить у результаті, що суспільство вважає, що завдання розпізнавання образів (текстів) не вирішено.

Є ще одна цікава подробиця. Коли на зорі розвитку комп'ютерів спроби побудови штучного інтелекту закінчилися нічим, весь напрямок втратив більшу частину привабливості, асигнування скоротилися, ентузіасти переповзли на програмування комп'ютерних супротивників в іграх та ін. Здавалося б, глухий кут. Якби не одне "але": іншого результату тоді чекати не слід. Потрібно лише уявити обчислювальну потужність комп'ютерів у лабораторіях штучного інтелекту Массачусетського технологічного інституту на той час. Вони були приблизно еквівалентні мозку комахи. І еквівалент інтелекту комахи було отримано! Потім скорочення асигнувань на дослідження ІІ не дозволило оновлювати комп'ютерний парк дослідників у темпі, адекватному можливостям технології. І тільки зараз, коли значно більші потужності стали доступні практично кожному, слід очікувати подальшого прогресу.

З часом ми спостерігатимемо все більше симптомів. Дилема, яку відчули фантасти, сприйматиметься у тих творчих зусиль іншого роду. Ми станемо свідками того, як поступово автоматизуватимуться завдання все більш високого рівня. Вже зараз є інструменти (програми символічної логіки, САПР), які звільняють нас від більшості нудної рутини. Є й зворотний бік медалі: істинно продуктивна праця стає долею вузької еліти людства, що стабільно скорочується. З настанням Сингулярності ми побачимо, як нарешті збуваються прогнози про справжнє техногенне безробіття.

А яким же буде настання самої Сингулярності? Що можна сказати про справжній характер цієї події? Оскільки справа стосується інтелектуального розгону, ймовірно, це виявиться найстрімкішою технічною революцією з усіх, перш за все, нам відомих. Чекати на це не буде ніхто, навіть ті вчені, які залучені до творчого процесу. "Але всі наші попередні моделі не рухалися! Ми тільки підкрутили деякі налаштування ...", - приблизно такі думки і слова здивування, можна очікувати від них.

Через кілька місяців після цієї події настане щось, чому автор статті наводить лише схожу за значимістю явища аналогію – виникнення людства. Ми опинимося в постлюдській ері. І, незважаючи на технічний оптимізм, автор заявляє, що йому було б набагато комфортніше, якби від цих надприродних подій відокремлювала тисяча років, а не двадцять.

Ймовірно, це найслабше місце в ідеї того, що штучний інтелект може виникнути в тому вигляді, що замінить природний. Виходить, що чіткого уявлення про те, як взагалі може статися такий якісний стрибок від тих інструментів, які може надати ІІ (див. вище завдання ІІ), до чогось, здатного до творчості та конкуренції з людиною, Віндж не має. Хоча, можливо, ці міркування він не став викладати у статті, або ж я не зміг їх розпізнати. Проте кінематографісти та письменники тему цю не кидають. А значить, зачіпає вона людей.

Шляхи до Сингулярності та від неї

Віндж не претендує на те, що Сингулярність настане обов'язково. Згадуються популярні та визнані аргументи Пенроуза та Серла про непрактичність машинного розуму. А в 1992 році співтовариство «Мислячих Машин» влаштувало мозковий штурм, метою якого було перевірити тезу: «Як побудувати машину, що мислить» Т.е. учасники в повному обсязі розділяли докази проти машинного розуму. Ухвалювалася загальна домовленість, що розум може існувати не тільки на біологічній основі, а алгоритми є найважливішими складовими розуму. Виділилося кілька груп, кожна яка дотримується певної думки. Так була меншість, яка вважала, що найпотужніші комп'ютери 1992 по потужності відстають на три порядки від людського мозку. Була більшість, яка погоджувалась з підрахунками Ганса Моравця, які показували, що нам знадобиться десять-сорок років і апаратура зрівняється з людьми. Була ще одна меншість, яка вважала, що загальноприйняті оцінки обчислювальної потужності окремих нейронів занижені, а отже наші сучасні комп'ютери відстають на десять порядків від того пристрою, що знаходиться в людському черепі. Тоді, як каже Віндж, можливо, ми ніколи так і не доживемо до Сингулярності, а натомість побачимо, що криві продуктивності нашого апаратного забезпечення почнуть згладжуватися через нашу нездатність автоматизувати конструкторську роботу з розробки подальших удосконалень апаратних засобів. Все скінчиться якимось дуже потужним комп'ютером, але без можливості рухатися вперед. Комерційна цифрова обробка сигналів буде чудова, забезпечуючи аналоговий вихід, який можна порівняти з цифровими операціями, але "свідомість" не прокинеться, а інтелектуальний розгін, що являє собою саму суть Сингулярності, так і почнеться. Такий стан речей, ймовірно, слід розглядати як Золоте століття... і кінець прогресу.

Через десять років Віндж додав ще один аргумент проти ймовірності технологічної Сингулярності: навіть якщо ми зуміємо створити комп'ютери з необхідною апаратною потужністю, може і не вдасться організувати наявні компоненти таким чином, щоб машина знайшла надлюдський розум. Просто складність програмного забезпечення зросте настільки, що не буде жодної можливості з ним упоратися. Будуть намагатися запустити все більші проекти з розробки ПЗ, але програмування не впорається із завданням і ми не отримаємо необхідних рішень біологічних моделей, які б допомогти реалізувати навчання та «ембріональний розвиток» машин. Віндж навіть наводить такий контрапункт до закону Мерфі: «Максимально можлива ефективність програмної системи зростає пропорційно до логарифму ефективності (тобто швидкості, смуги пропускання, обсягу пам'яті) програмного забезпечення, що підлягає». І це жахливо. Це означає величезну кількість програм, корисність яких мала, а кількість все зростає і зростає.

Проте, якщо технологічної Сингулярності судилося бути, вона обов'язково трапиться. Тобто. в принципі неможливо якось законодавчо чи ще будь-яким способом заборонити її. Навіть якщо всі держави світу усвідомлюють у ній загрозу та налякаються до смерті, прогрес не зупиниться. Конкурентна перевага будь-якого досягнення в засобах автоматизації є настільки непереборною, що заборона подібних технологій просто гарантує, що хтось інший освоїть їх першим.

Ерік Дрекслер склав вражаючі прогнози розвитку та вдосконалення технічних засобів. Він погоджується з тим, що поява надлюдського розуму стане можливою в найближчому майбутньому. Але Дрекслер стверджує, що людство здатне утримувати контроль над такими надлюдськими пристроями, щоб результати їх роботи можна було оцінити і надійно використовувати.

Віндж, навпаки, вважає, що контроль зберегти неможливо. Як уявного експерименту, він пропонує уявити себе замкненим у власному будинку з єдиним каналом доступу інформації, який обмежений деякими господарями. Якби господарі мислили зі швидкістю в мільйон разів меншою, ніж Ви, то, безперечно, через кілька років Вашого часу, Ви винайшли б спосіб втечі. Віндж називає цю швидко мислячу форму надрозуму «слабким надлюдським». Така сутність дуже прискорила б протягом часу еквівалентного людського розуму. Що собою представлятиме «сильне надлюдське», сказати важко. Але відмінності будуть разючі. І тут постає питання про користь такого розуму для людини. Як приклад, можна уявити собі собаку з роботою думки, що багаторазово прискорилася. Тисячолітній досвід собачого мислення, що може дати людству? Взагалі, виходить, що дуже багато припущень про надрозум робляться виходячи з моделі «слабкого надлюдського». Віндж вважає, що найбільш вірні здогади про постсингулярний світ можна робити на припущеннях про влаштування «сильного надлюдського».

Другим підходом до вирішення проблеми контролю є ідея створення жорстко заданих обмежень свободи дії надлюдських сутностей. Яскравий приклад – Закони робототехніки Азімова. (Цікаво, що формулювання законів запатентовані самим Азімовим, і ніхто, крім нього, не може їх цитувати дослівно. Цікаво, навіщо він це зробив?) Проте, навіть у оповіданнях Азімова була порушена основна проблема таких обмежень. Всі вони призводять до звуження можливостей пристроїв у порівнянні з пристроями без обмежень. Отже, конкуренція сприятиме розвитку менш обмежених, отже, небезпечніших моделей.

Наслідки сингулярності. Постлюдська ера

Отже, якщо Сингулярність не можна запобігти, не можна обмежити, то якою буде постлюдська ера, наскільки жорстокою? Один із можливих наслідків – фізичне вимирання людства. Наприклад, Ерік Дрекслер, говорячи про нанотехнології, сказав, що з усіма подібними технічними можливостями уряди, ймовірно, вирішать, що прості громадяни їм нема до чого. Однак, фізичне вимирання – не найстрашніше, що може статися. Достатньо згадати братів наших менших тварин – і ставлення до них. У постлюдську епоху знайдеться досить ніш, де людина буде затребуваний, отже, збережений, як вид. З цього приводу Вернон Віндж переформулює золоте метаправило: «Поводься з меншими братами так, як ти хочеш, щоб старші брати поводилися з тобою». Наслідки використання цього правила, розраховані згідно з теорією гри, в якомусь сенсі свідчать про те, що, якби ми могли дотримуватися цього правила, то це могло б говорити про поширеність подібних добрих намірів взагалі у всесвіті.

Віндж нагадує, що, незважаючи на те, що запобігти Сингулярності ми не можемо, але ініціатором все ж таки виступає людина. А значить, у нашій владі змінювати початкові умови цього некерованого процесу, щоб усе відбувалося з мінімальними для нас збитками. Чи буде користь від передбачення та планування? Залежить від того, чи буде перехід до Сингулярності різким чи тихим. Різкий перехід - це той, при якому зсув до надлюдського контролю відбудеться за кілька сотень годин. Спланувати такий перехід важко. Тихий перехід може зайняти десятки років, можливо, більше століття. У такій ситуації планування можливе, можна вдумливо експериментувати.

Сингулярність без Штучного Інтелекту

Найчастіше коли говорять про істоти з надлюдським розумом, то мають на увазі проект зі створення штучного інтелекту. Однак, на початку статті Віндж відзначив і інші шляхи до надлюдського. Так комп'ютерні мережі та людино-машинні інтерфейси, хоч і здаються більш приземленими, можуть призвести до Сингулярності. Віндж називає такий суперечливий підхід Посиленням Інтелекту (УІ). Посилення Інтелекту протікає природно, не усвідомлюють навіть розробники. Однак щоразу, коли покращуються наші можливості доступу до інформації та передачі її іншим, у певному сенсі ми досягаємо приросту до природного інтелекту. Дует знаючої, мислячої людини і простої робочої станції здатний, мабуть, скласти будь-який письмовий тест.

Цілком можливо, що УІ є найлегшим шляхом для досягнення надлюдського, ніж ІІ в чистому вигляді. Щодо людей, найскладніші проблеми розвитку вже вирішені. Поступове створення розумних систем на основі наявних у людини здібностей видається легшим, ніж з'ясування істинної суті людей і потім уже спорудження аналогічних інтелектуальних машин. Імовірно, існує ще принаймні один прецедент на підтримку цієї точки зору. Кернс-Сміт міркував про те, що біологічне життя цілком могло зародитися як випадкова додаткова властивість більш примітивних форм життя, що ґрунтувалися на зростанні кристалів. Лінн Маргуліс висувала серйозні аргументи, доводячи, що симбіоз є могутньою рушійною силою еволюції.

Віндж не пропонує ігнорувати роботи зі створення ІІ. Він вважає, що досягнення в області розробки ІІ будуть знаходити застосування в УІ, і навпаки. Автор пропонує зрозуміти, що у роботах зі створення мереж та інтерфейсів криється таке ж серйозне та потенційно дике-чуже, як і штучний інтелект.

1. Автоматизація людино-машинної зв'язки.Тут розглядаються проблеми, які зазвичай відводяться для вирішення машин (на кшталт завдань за методом ітеративного спуску - hillclimbing), та програми розробки та інтерфейси, що використовують перевагу людської інтуїції з доступним комп'ютерним обладнанням. З огляду на химерність завдань з високихclimbing більш високого порядку (і струнких алгоритмів, придуманих для їх вирішення), для людського компонента зв'язки можна розробити надзвичайно цікаві дисплеї та засоби управління.

2. Симбіоз машини та людини в мистецтві.Тут мають на увазі поєднання графічних можливостей сучасних машин та естетичної чуйності людей. Звісно, ​​величезні зусилля дослідників витрачаються розробки комп'ютерних засобів допомоги художникам. Віндж пропонує чітко націлитись на найбільше поєднання умінь, максимально можливу кооперацію.

3. Людсько-машинні команди на шахових турнірах.Зараз уже є програми, які грають у шахи краще за переважну більшість людей. Але скільки зроблено, для того щоб цю міць могла використовувати людина, для того, щоб досягти якихось ще більших успіхів? Якби таким командам дозволялося брати участь хоча б у деяких шахових турнірах, це могло б вплинути на дослідження УІ, яке допуск комп'ютерів до шахових змагань надає на відповідну нішу розробок ІІ. В останні кілька років гросмейстер Гаррі Каспаров розвинув ідею проведення шахових турнірів між гравцями, яким допомагають комп'ютери (прогресивні шахи).

4. Інтерфейси, які забезпечать доступ до комп'ютерів та мереж без обов'язкової прив'язки людини до одного місця за столом з монітором. Цей аспект УІ настільки успішно узгоджується з відомими економічними перевагами, що у цьому напрямі вже працюють дуже активно.

5. Більш симетричні системи підтримки рішення.Популярною областю досліджень та розробок останнім часом стали системи підтримки рішення. Це одна із форм УІ, тільки, можливо, надто сфокусована на прогностичних системах. Стільки ж, скільки програма надає інформації користувачеві, має бути і керівництво програмою з боку користувача.

6. Місцеві мережі, які зроблять зусилля групи людей ефективнішими за роботу окремих членів. Це і є, в принципі, поняття про groupware; зміна підходу у питанні полягає у поданні груповий діяльності як роботи колективного організму. У певному сенсі мета такої пропозиції може полягати у винаході "Статуту" для таких комбінованих операцій. Наприклад, напрямок діяльності групи легше було б підтримувати, ніж за допомогою класичних зборів. Вміння окремих індивідуумів можна буде ізолювати від егоїстичних устремлінь, щоб об'єднані зусилля різних членів групи концентрувалися на спільному проекті. Ну і, звичайно, бази даних спільного користування можна було б задіяти повніше, ніж у звичайних дорадчих операціях.

7. Інтернет є комбінованим людино-машинним інструментом.З усього перерахованого у цьому списку прогрес у цій галузі йде найшвидшими темпами. Сила та вплив Інтернету чималою мірою недооцінюють. Сама собою анархічність розвитку Всесвітньої мережі є свідченням її потенціалу. Поки нарощуються зв'язність, смуга пропускання, архівні обсяги та продуктивність комп'ютерів, ми спостерігаємо щось схоже на уявлення Лінн Маргуліс про біосферу, як свого роду конспект процесора даних, тільки з продуктивністю в мільйон разів більшою і з мільйонами розумних людських агентів (нас самих).

Наведені вище приклади ілюструють дослідження, яке можна провести у межах сучасних галузей комп'ютерної науки. Існують та інші парадигми. Наприклад, багато робіт зі створення штучного інтелекту та нейромереж лише виграють від більш тісного зв'язку з біологічним життям. Замість того щоб просто намагатися моделювати і відтворювати біологічне життя за допомогою комп'ютерів, дослідження слід направити на створення композитних систем, що покладаються на управління з боку біологічного життя, або заради якихось властивостей біологічного життя, які ми недостатньо розуміємо, але прагнемо відтворити в апаратному забезпеченні. Вікною мрією наукової фантастики є прямі комп'ютерно-мозкові інтерфейси. На практиці в цій галузі ведуться конкретні роботи:

1. Протезування кінцівокє область прямого комерційного додатку. Прямі нейро-кремнієві перетворювачі можна створити. Це чудово досягається перший крок до налагодження прямого людино-машинного зв'язку.

2. Прямі канали зв'язку з мозкомздаються цілком здійсненними, якщо бітрейт досить низький: враховуючи розвинену освіту людини, навряд чи потрібно точно вибирати мішені серед нейронів живого мозку. Навіть 100 біт на секунду будуть надзвичайно корисні постраждалим від паралічу, яким, інакше, доведеться залишатися в заручниках в інтерфейсів, побудованих на структурованих меню. Тут можна згадати вченого Хоукінга, який зараз паралізований і вся його дія на навколишній світ зводиться до рухів його єдиного рухомого пальця руки.

3. Під'єднання до оптичної магістраліобіцяє потенціал величезної пропускної спроможності. Але для цього нам потрібно розібратися в найтоншому пристрої зору, та ще потрібно вживлення великої кількості електродів з надзвичайною точністю. Якщо ми хочемо, щоб широкосмугове з'єднання додало ще можливостей до тих здібностей з обробки даних, що вже є в людському мозку, проблема стає набагато більш неподатливою. Експерименти у цій галузі ведуться. Так нещодавно в періодичних виданнях, присвячених хайтеку, з'явилися новини про те, що підключення цифрової камери до зорового нерва вже вдається, а продаж таки пристрої надійдуть орієнтовно в 2008–10 роках.

4. Експерименти із зародками тварин.Забезпечення мозку, що розвивається, доступу до складних симульованих нейроструктур могло б, зрештою, призвести до появи тварин з додатковими нервовими зв'язками та цікавими інтелектуальними здібностями. Так було повідомлення про те, що намагаються отримати мишу із мозком людини. Такий заголовок дуже добре виглядав би на першій сторінці якогось жовтого видання, але схоже, що це справді так. Звичайно, миша з людським мозком, навряд чи сама по собі буде корисною, але ось зворотне… Якщо вдасться використовувати нервові клітини тварин для заміни людських, це щонайменше може допомогти вилікувати багато недуг. Вплив таких досліджень безперечно великий.

На жаль, і на шляху до Сингулярності через Посилення Інтелекту Віндж також не бачить повної безпеки. УІ для людських індивідуумів створює досить зловісну еліту. У нас, людей, за плечима мільйони років еволюційного розвитку, які змушують нас представляти суперництво у похмурому світлі. Здебільшого, ця похмурість може виявитися незатребуваною в сьогоднішньому світі, в якому переможці, які програли, переймають прийоми переможців і, згуртувавшись, організують виграшні підприємства. Істота, створена "з чистого аркуша", може виявитися набагато благонамірнішою, ніж тварюка, вирощена за законами ікла і кігтя.

Проблема полягає не просто в тому, що Сингулярність є відходом людства зі сцени, але в тому, що вона суперечить нашим потаємним поняттям буття. Тому далі Віндж розглядає уважніше концепцію сильного надлюдського, намагаючись прояснити причини такого стану речей.

Сильне надлюдське та найкраще, на що можуть розраховувати люди

Якщо припустити, що нам, людям, вдасться спланувати Сингулярність, вдасться втілити найбожевільніші мрії. Що ж… Для змін, що не зазнали, буде запропоновано м'яке звернення, можливе надання їм статусу господарів богоподібних слуг. Можливо, настане золотий вік, причому не позбавлений прогресу. Безсмертя чи надзвичайно довге життя стануть досяжними.

Чудовий, добрий світ. Але філософські проблеми, що піднімаються в цьому світі, стають воістину жахливими. Якщо розум замкнутий у межах, він, через кілька тисяч років, нагадуватиме закольцованную плівку, ніж особистість – тобто. безсмертя у разі жахливо. Щоб жити необмежено довго, сам розум має зростати. Ну і які ж споріднені почуття він відчуватиме до того, чим він був спочатку, коли він розростеться до величезних розмірів і озирнеться в минуле?

Поняття самосвідомості та его є основним поняттям у раціоналізмі останніх кількох століть. Однак самосвідомість, як концепція, піддається нападкам з боку прихильників ІІ. УІ вибиває ґрунт з-під концепції его з іншого боку. Вже зараз швидкості обміну інформацією загальнодоступних мережах досить великі. Постсингулярний світ передбачає наявність потужніших каналів зв'язку. Якщо його можна буде копіювати, об'єднувати, а обсяг самосвідомості зможе збільшуватися чи зменшуватися залежно від масштабів розв'язуваних завдань, підлаштовуючись під них, що відбудеться? Звучить така побудова дико, незвично, але це і є суттєві риси сильної надлюдської та самої Сингулярності. Саме це Віндж наводить як підтвердження чужості постлюдської ери, незалежно від того, наскільки продумано, сплановано, милосердно ми до неї підійдемо.

З одного боку, картина описує багато людських мрій про щастя: нескінченне життя, в якому ми вміємо по-справжньому розуміти один одного і пізнаємо найтаємніші таємниці буття. З іншого боку, це нагадує найгірший сценарій розвитку подій, описаний Вінджем на самому початку статті.

Яка ж думка обґрунтована? Віндж вважає, що нова ера буде настільки іншою, що не зможе вписуватися в класичні рамки протиставлення добра та зла. Постсингулярний світ чудово вписується у більш значну традицію еволюції та колективності, що зародилася давним-давно (можливо, ще до появи біологічного життя).

Закінчує Вернон Віндж свою статтю словами Фрімена Дайсона: "Бог - це розум, що переріс межі нашого розуміння".

Список літератури:

«Ти лише машина. Лише імітація життя. Робот напише симфонію? Робот перетворить шматок полотна на шедевр мистецтва?» — каже герой фільму «Я робот», знятий за мотивами однойменної збірки оповідань Айзека Азімова, одного з найвідоміших письменників-фантастів 20 століття. А що, якщо в недалекому майбутньому робот зуміє не тільки скласти симфонію, а й зробити будь-яку дію, на яку раніше була здатна лише людина? Що, якщо фантасти вміло пророкували найімовірніший варіант нашого майбутнього? Футурологи всього світу намагаються відповісти на запитання, чи зможуть ті, кого створила сама людина, перевершити її у можливостях, а якщо зможуть, то коли і що з цього вийде?

Відомий демограф Ніколас Еберштадт у своїй лекції «Що буде з населенням Землі у 2035 році?» зазначив, що демографічне збільшення людства йде експонентом. Поріг у 100 мільйонів людей долався за 1000 років до Різдва Христового. Людству знадобилося тисячоліття для такого демографічного ривка. При цьому перший мільярд з'явився приблизно 200 років тому, потім мільярд став з'являтися кожні 100 років, потім кожні 50, зараз новий мільярд з'являється кожні 12-13 років.

Це ілюстрація експоненційного закону зростання, він проявляється на різних «гілках» розвитку, у тому числі й на технологічному. У 1965 році засновник корпорації Intel Гордон Мур вивів логарифмічний закон, згідно з яким кожні півтора роки комп'ютери стають вдвічі «розумнішими». На думку американського футуролога Реймонда Курцвейла, якщо закон Мура продовжить функціонувати, то вже до 2030 комп'ютери за своєю продуктивною потужністю зможуть наблизитися до мозку людини. Імовірність прискореного розвитку техніки та появи в якийсь момент надрозуму припускають багато футурологів світу і називають це технологічною сингулярністю.

Читайте також

Вперше концепцію технологічної сингулярності представив професор математики та письменник-фантаст Верно Віндж на симпозіумі VISION-21 у 1993 році:

«Сингулярність - це точка, в якій наші старі моделі доведеться відкинути, де запанує нова реальність.

Коли прогрес спрямовуватиметься інтелектом, що перевершує людський, він стане набагато стрімкішим. Фактично, немає підстав вважати, що прогрес стане плодити дедалі розумніші сутності і дедалі швидшими темпами.

Така подія анулює через непотрібність все зведення людських законів, можливо, миттєво. Некерована ланцюгова реакція почне розвиватися експонентом без будь-якої надії на відновлення контролю над ситуацією. Зміни, на які, як вважалося, будуть потрібні «тисячі століть» (якщо вони взагалі відбудуться), швидше за все, трапляться у найближчі сто років».

Віндж бачить кілька шляхів розвитку цієї теорії:

1. Виникне надлюдський розум унаслідок розвитку техніки;
2. Підвищиться ефективність людського розуму та фізичних характеристик за допомогою;
3. Великі комп'ютерні мережі можуть самостійно ідентифікувати себе як розумні сутності;
4. Синтез комп'ютера та людини призведе до того, що людина сама матиме надінтелект.

Людина замислилася про створення штучного інтелекту, щоб спростити собі життя та оптимізувати більшу частину роботи. Завдяки оптимізації комп'ютери вже займають не цілі приміщення, а можуть просто уміститися в долоні, і їхня вартість зменшилася в десятки разів. Роботи в наш час навчилися виконувати команди, прибирати квартири, ми отримали «розумні» будинки, існує навіть робот-художник, здатний відтворити будь-яку картину. Техніка стала не просто компактною і дешевою, а й інтелектом. Комп'ютер може розпізнати ваш голос і перевести інформацію в байти, більшість цехів оснащено новітніми технологіями для виробництва нової продукції, знайти якусь людину теж не важко за допомогою системи, що розпізнає обличчя. Якщо згадати закон, який згадувався на самому початку, то можна розрахувати, що вже до 2040 року кожен з нас зможе придбати процесор, що дорівнює обчислювальній потужності людського мозку.

Продовжувати цей список можна нескінченно довго, але що чекає на нас, якщо одного разу всі замінять комп'ютерами: місце вчителів займуть інтерактивні помічники, автомобілям більше не знадобиться водій, а найкращим художником десятиліття визнають робота нового зразка? Все це не так далеко, як здається: вже зараз роботи легко можуть перевершувати людину в плані ефективності і продуктивності. Робот не втомлюється, не виходить у відпустку і не вимагає оплати у звичному нам розумінні. Лише витрати на технічне обслуговування. Чи ми можемо точно передбачити, що станеться після технологічної сингулярності, проте деякі деталі можна оцінити і зараз.

Розглядаючи ідею створення надлюдського розуму, слід зазначити, що вже сьогодні продуктивність суперкомп'ютера IBM «Watson» оцінюється приблизно 80 трильйонів операцій на секунду. Новини про розвиток та нові можливості комп'ютера з'являються із завидною регулярністю.

Скріншот пошуку Google

IBM «Watson» здатний давати відповіді на питання, аналізувати інформацію та приховані в питаннях значення, планується використовувати суперкомп'ютер для допомоги в діагностиці та лікуванні раку, і хоча комп'ютер поступається людині у прийнятті рішень на асоціативному рівні, американська компанія Neuromatters та Колумбійський університет у Нью- Йорку вже уклали договір на розробку технології, яка поєднуватиме комп'ютерну потужність і потужність людського мозку для вирішення цієї проблеми.

Синтез людини і комп'ютера пророкували багато письменників-фантастів і футурологів, намагаючись зазирнути в недалеке майбутнє. Якщо говорити про кіборги, на думку відразу приходять Термінатор або Адам Дженсен з Deus Ex. Здається, це занадто фантастично, щоб виявитися реальністю, проте, як казав Вільям Гібсон, «майбутнє вже тут воно просто нерівномірно розподілене».

Заглиблюємось

Ще Едгар Алан По у своєму оповіданні «Людина, яку порубали в шматки» торкався теми аугментації, а саме нарощування імплантатів на тіло для відтворення людини за допомогою технологічної потужності. У сучасному світі вже нікого не здивувати операціями із заміни кінцівок на автоматизовані. Але прогрес не стоїть на місці, і вчені з університету Carnegie Mellon вирішили піти далі і інтерфейс «розумного» годинника за допомогою комплекту з кільця та браслета. Кільце посилає сигнал постійно струму в палець і тепер керувати годинником можна простим торканням своєї руки.

Співзасновник компанії Cyborg Nest Лівіу Бабітс заявив:

«Наша мета – допомогти багатьом людям стати кіборгами. Ми віримо, що якщо відчути те, що відчувають тварини, зміниться розуміння світу. Це дозволить нам ступити наступного етапу еволюції».

І вже зараз з їхньою допомогою людина може без операцій приєднати до себе чіп, який допоможе орієнтуватися у просторі та вібруватиме щоразу, коли носій повертатиме на північ.

«Франкенштейни 21 століття» існують, і їх дедалі більше. Потенційний розвиток технологічного процесу намагалися передбачити та візуалізувати творці серіалів «Чорне дзеркало» та «Світ дикого заходу», адже саме зараз ця тема є актуальною як ніколи. Представляючи різні погляди світ майбутнього, автори не забули і роботах, чия роль настільки велика у наш час.

Ми живемо у вік, коли вже винайдені літаючі машини, а роботи виконують функції офіціантів. У 2009 році компанія Robosoft представила автобус, здатний переправляти людей спокійними ділянками дороги без допомоги водія. І хоча в небезпечних ситуаціях водії брали керування на себе, ми не такі далекі від поширення таксі без водіїв.

Що ж на нас чекатиме, коли створена нашими руками техніка зможе розвиватися незалежно від нас? І хоча футурологи сходяться на думці, що передбачити майбутнє після технологічної сингулярності неможливо, вони впевнені, що його можна припустити, як це зробив Рей Курцвейл.

Але крім футурологів цим активно намагаються займатися сучасні кіносправи, знімаючи на тему майбутнього людства одну картину за іншою. Більшість фільмів, які показують нам передбачуваний сюжет найближчого майбутнього, «олюднюють» роботів, роблячи їх чимось схожими на людей термінатор, трансформери тощо. Але навряд чи у комп'ютера, що має надлюдський розум, виникне потреба створювати свій образ за подобою людського.

Наукова фантастика також не залишилася осторонь цієї теми. Айзек Азімов сформулював три закони робототехніки, один з яких свідчить, що робот не може завдати шкоди людині. Але чи так буде насправді? Більшість фантастів уявляють не надто оптимістичний погляд на майбутнє людства. Втім, є й інша думка щодо цього. Письменник Олександр Ніконов та футуролог Олександр Жаров вважають, що людина зможе вступити в симбіоз зі штучним інтелектом та розвивати навички, залишаючись при цьому тим, хто контролює свій розум та тіло.

То що з усього цього може статися найближчим часом? Найімовірніше, на нас чекає масова «чіпізація», яка тільки починає набирати обертів. Про це говорили ще 2015 року експерти Всесвітнього економічного форуму. Окрім іншого, вони обговорювали можливість появи телефонів, вбудованих у тіло людини, у найближчі 10 років. Але вживленням NFC-чіпів у вузьких колах займаються вже зараз (так, наприклад, 2015 року московський інженер Влад Зайцев ушив собі під шкіру NFC-чіп карти «Трійка»). У медицині з'являтимуться розробки у сфері пошуку «безсмертя» як біологічного, так і кібернетичного. Цьому сприяють вже винайдені технології вирощування органів та виробництва штучної крові. Безперечно, у такому майбутнє є як позитивні, так і негативні сторони. Важко оцінити всі ризики та зробити точні прогнози. Однак немає сенсу боятися майбутнього, воно неминуче. Варто пам'ятати лише про те, як сильно те, що відбувається сьогодні, впливає на те, що буде завтра.

Здрастуйте, шановні читачі блогу сайт. У розмовах з людьми ми іноді чуємо рідкісне, незрозуміле більшості, слово «сингулярність». Для надання значимості своєї персони, людина повертає подібні слівця, але точно відповісти, що воно означає, не в змозі.

Дослівний переклад з латини знайти нескладно. Слово singularisозначає особливий, єдиний, вказує на унікальністьбудь-якої події, істоти, явища. Здається, набагато простіше, але тут починаються незрозумілості.

Це поняття застосовується у різних сферах життя, науки, техніки, філософії. У кожній області воно специфічно. Недосвідченому громадянину здається, що йдеться про зовсім несхожі речі. Немає згоди навіть у розумінні значення слова.

Значення слова

Наче спеціально, щоб заплутати все остаточно, науковці придумали кілька різновидів сингулярності. Відповідно до вікіпедії бувають:

Сингулярність зрозумілою мовою

Так, легше не стало! Ви розгублені та обурені: «Що це, простими словами пояснити не можна?». Давайте спробуєм. Візьмемо для прикладу два згадані вище трактування і пояснимо все це максимально просто (на пальцях):

1. Гравітаційна. Припустимо, що на дорозі відкритий люк. Дорожнє покриття - це простір, край люка - горизонт подій (кордон викривлення простору або красивіше - горизонт подій). Все, що відбувається всередині ями, ви не бачите, але дірка утворена сингулярним об'єктом. Наступний – потрапили, він пролетів межу горизонту та потрапив у зону сингулярності (невизначеності);
2. Космологічна. Уявіть маленький м'ячик з нереально високою температурою та щільністю. Якоїсь миті він з величезною силою вибухає, утворюючи купу осколків, частинок та пилу. Уявіть, що відбувалося з м'ячем у момент вибуху? Це називають станом сингулярності.

Два поширені тлумачення цього явища здатні описати його основні відмінні ознаки:

Відповідність чогось хоча б одному з цих ознак свідчить, що перед вами сингулярність.

Найбільш яскраво за обома ознаками сингулярність ілюструє Чорна діра. Вважається, що у її центрі показники всіх фізичних характеристик нескінченні, закони фізики не діють, а час тече за невідомими нам правилами. Оскільки передбачити поведінку такого об'єкта неможливо, то й прогнозування втрачає будь-який сенс.

Думаєте, що все описане далеко в часі, просторі і нас не стосується? Я вам покажу, що це не так.

Сингулярність у нашому житті

Більшість процесів у суспільстві, економіці, історії, біології відбувається за умовами, що передбачають точку сингулярності у певний момент часу. В основі розвитку цього явища лежить закон гіперболи. Прямо зараз довкола нас наближаються до своєї розв'язки процеси, які зароджувалися мільярди років тому.

Людство та світовий продукт

Найзрозуміліший приклад – зростання чисельності населення Землі та приріст світових запасів продукту. Зв'язки, зумовлені певними умовами, вибудовувалися тисячоліттями. Якщо зараз залишити ці залежності без зміни та продовжити їх у майбутнє, дуже скоро ми підійдемо до точки сингулярності.

Кількість людей на планеті та світовий продукт були давно підраховані вченими. Ще два-три десятиліття тому стало зрозуміло, що кількість людей збільшується за квадратичною гіперболою, а виробництво продукції – за простою, тобто вдвічі повільніше.

Прогнози показували, що з 2005 по 2020 рік настане час точки сингулярності. Тобто, сьогодні ми всередині цього явища. Скажіть, ви спостерігаєте навколо всеосяжне достаток та багатство?

І знову технологічна сингулярність

Та сама точка, коли складність технологій, що розвиваються, буде недоступна людському розумінню, не за горами. Імовірно, ми зустрінемо її з 2030 до 2045 року. Сценарій ймовірних подій відомий усім із фантастичних фільмів.

Біологічні революції

Сингулярність у біології Землі справа звична. відбувалася при гіперболічному зростанні популяції до якогось моменту. Наприклад, динозаври були власниками планети. Але після революційних подій їх майже не лишилося. Хіба що крокодили скромно займають несуттєву нішу.

Коли вчені мужі проаналізували періодичність дат революцій, що відбувалися в біології, а потім додали до цієї інформації людські хвилювання, вони помітили чіткий зв'язок із точкою сингулярності в районі 2010—2050 років.

Сингулярність в історії

Це траплялося досить часто. Згадайте історії держав та імперій. Скажімо, Стародавній Рим на початку свого розвитку розвивався за законом гіпербол.

Зростання населення стало причиною захоплення територій, визначив деякий технічний розвиток. Так тривало до кількох епідемій чуми, коли померло до третини населення. Після цього людство задумалося про густину мешканців в одному місці.

Спроби відновити кількість людей дозволили імперії протриматися ще якийсь час. Але все одно держава з багатьох причин розпалася. Отже, алгоритм - різке зростання, порушення рівноваги, невеликі коливання, зміна балансу ресурсів та загибель.

Схожі зумовленості були виявлені в:

1. науці;
2. демографії;
3. економіці;
4. культурі та інших сферах людського життя.

Висновки

У зазначений історичний проміжок має статися щось неймовірно важливе, порівнянне з виходом живих організмів на сушу, що докорінно змінить майбутнє.

Тільки не кажіть, що все зникло і нам уготована доля крокодилів. Адже і Рим не зник безвісти. Та й ми відрізняємось від динозаврів. Ми можемо думати, робити прогнози, шукати рішення та адаптувати середовище під свої потреби.

Головне, розуміти, що відбувається і вчасно змінювати умови гри, щоб не допускати незворотних процесів.

Тому що сингулярність – це точка з нескінченною густиною, де порушені всі закони фізики, а припущення про майбутнє невідомі. У ньому все втрачає сенс. І осмислення того, що відбувається, теж не має значення.

Удачі вам! До швидких зустрічей на сторінках блогу сайт

подивитися ще ролики можна перейшовши на

Вам може бути цікаво

Що таке теорія і чим хороші теоретичні методи пізнання Аспект - використання в розмовній мові та наукове трактуванняЩо таке закон Що таке відрізок Що таке нормативні правові акти та які бувають НПА Що таке легітимність простими словами Що таке моделі та моделювання - 5 етапів моделювання, коли та які моделі застосовуються

За деякими прогнозами, технологічна сингулярність може настати вже близько 2030 року. Прихильники теорії технологічної сингулярності вважають, що якщо виникне принципово відмінний від людського розум (постлюдина), подальшу долю цивілізації неможливо передбачити, спираючись на людську (соціальну) поведінку.

Ідею про зростання наукового знання, що прискорюється, вперше можна зустріти в роботах Ф.Енгельса. У середині XIX століття він писав про те, що наука рухається вперед пропорційно до маси знань, успадкованих нею від попереднього покоління. На його думку, з часу виникнення (XVI-XVII ст.) розвиток наук посилювалося пропорційно квадрату відстані (у часі) від свого вихідного пункту. Близькі ідеї висловлював В.І.Вернадський, який писав про безперервне посилення темпів наукової творчості. На думку сучасних дослідників, має місце "експоненційний закон розвитку науки", що виявляється у відповідному збільшенні числа науковців, наукових організацій, публікацій та інших показників.

Термін "сингулярність" запозичений у астрофізиків, які використовують його при описі космічних чорних дірок і в деяких теоріях початку всесвіту - точка з нескінченно великою масою та температурою та нульовим об'ємом. Математично сингулярність (особливість) — точка функції, значення якої прагне нескінченності, чи інші подібні «цікаві» точки.

У цьому контексті вперше термін «сингулярність» використав у середині ХХ століття Джон фон Нейман, маючи на увазі математичне, а не астрофізичне розуміння цього слова — точку, за якою екстраполяція починає давати безглузді результати (розходитися). Про це пише сам Вернор Віндж, якому цей термін зазвичай приписують. Науковим обґрунтуванням настання сингулярності активно займається Реймонд Курцвейл.

Одним із фундаментальних відкритих питань щодо Сингулярності є питання — коли вона настане та наскільки швидко відбудуться технологічні зміни? Екстраполяція тенденцій показують, що Сингулярність має відбутися до 2020 року (можливо цю цифру слід переглянути і наблизити дату до 2018 або навіть 2016 року, якщо покладатися на останню оцінку Дені Едера (Dani Eder) про те, що час подвоєння потужності комп'ютерів місяців до вересня 2002 року) і вона має бути дуже раптовою, що характерно для природи експоненційною кривою. Згідно з найбільш ймовірним сценарієм Сингулярності приблизно в районі 2011 року промислова нанотехнологія почне виробляти лавину дешевих товарів, що ліквідують бідність і голод у всьому світі. Приблизно до 2012 року комп'ютерна технологія, заснована на нанотехнології, збільшиться за своєю потужністю на шість порядків від того рівня, де вона буде в 2010 році. . Приблизно до 2014 року дослідження в галузі ІІ, засновані на нанотехнології та молекулярній біотехнології та комп'ютерній потужності, призведуть до створення першого надлюдського штучного інтелекту, СІІ.

Технологічна сингулярність як наслідок розвитку нанотехнологій розглядається у звіті 2007 Комісії з економічної політики Конгресу США. Як дати початку сингулярності називається 2020 рік. За іншими прогнозами – 2030 рік.

Крім піонерських оповідань Вернора Вінджа, сингулярність є центральною темою творів інших авторів наукової фантастики. Серед них можна відзначити Вільяма Гібсона, Чарльза Стросса, Карла Шредера, Грега Ігана, Девіда Бріна, Іена Бенкса, Ніла Стівенсона, Тоні Баллантайна, Брюса Стерлінга, Дена Сіммонса, Демієна Бродеріка, Фредеріка Брауна, Яцека Дука. Кен Маклауд у своєму романі 1998 року "Підрозділ Кассіні" (The Cassini Division) визначає сингулярність як "піднесення для нердів".

Тематика сингулярності часто зустрічається у кіберпанкових романах. Наприклад, штучний інтелект «Зимова Безмовність», що рекурсивно самопокращується, в романі Вільяма Гібсона «Нейромант». Опублікований у 1994 році на сайті Kuro5hin роман «Метаморфози Вищого Інтелекту» присвячений життю після запущеного штучним інтелектом сингулярності. Більше антиутопічний погляд на сингулярність у короткому оповіданні Харлана Еллісона «У мене немає рота, а я хочу кричати». Іншими прикладами антиутопічного погляду є «Акселерандо» Чарльза Штросса і серія коміксів Уоррена Елліс, що триває в даний час, «newuniversal». «Усі ляльки» (англ. Puppets All) Джеймса Мілна торкається емоційних та моральних проблем Сингулярності. Проблема Контакту за доби технологічної сингулярності обговорюється у романі Станіслава Лема "Фіаско" (1986).

Майкл Дірінг.Світанок Сингулярності

ГЛАВА ПЕРША. СИНГУЛЯРНІСТЬ

РІВНІ ОРГАНІЗАЦІЇ

Що таке Сингулярність?

Незбагненне Сингулярності

Сингулярність трьох технологій

Мініатюризація (нано)

В підсумку

Чому вони не розуміють її

РОЗДІЛ ДРУГИЙ. ШТУЧНИЙ ІНТЕЛЕКТ

Три підходи до ІІ

Імітаційна модель

Теорія АГІ, функціональний підхід

Опис функціональних модулів

Розділ третій. МОЛЕКУЛЯРНА НАНОТЕХНОЛОГІЯ

Майбутнє молекулярної нанотехнології

ПРОМИСЛОВЕ НАНОВИРОБНИЦТВО

Метод підкладок та містків

Запропоновані принципи нанотехнологічної безпеки

НАНОТЕРОРИЗМ

РОЗДІЛ ЧЕТВЕРТИЙ. МОЛЕКУЛЯРНА БІОТЕХНОЛОГІЯ

Перспективи молекулярної біотехнології

Фрагментація людства

Вдивляючись у далечінь

РОЗДІЛ П'ЯТИЙ. ПЛОДИ ТА НЕБЕЗПЕКИ СИНГУЛЯРНОСТІ

Плоди Сингулярності

Небезпеки Сингулярності

РОЗДІЛ ШОСТИЙ. ФАНТАЗІЇ НА ТЕМУ ПРО СИНГУЛЯРНІСТЬ

Чотири роки попусту

КРУТИЙ ЗЛІТ

НАНОМРІЇ

ЗООПАРК 2099

КОННІ ЧАНГ БЕРЕ ІНТЕРВ'Ю У ЕЛІЗЕРА

ВИПУСТИ МЕНЕ

ЖИВИЙ ВІРУС

ІНОПЛАНЕТНІ НАНОБАБОЧКИ

ДИСКУСІЯ З КРЕДЕЛЯМИ

КРИПТОГРАФІЯ

ТЕОРІЯ КОНСПІРАЦІЇ

Гранична машина зв'язків

РОЗДІЛ СІМ. ПРОГНОЗ СИНГУЛЯРНОСТІ

ДОДАТОК A. Герої Сингулярності

ДОДАТОК B. Книги про Сингулярність

ДОДАТОК C. Організації Сингулярності

ДОДАТОК D. Проекти Сингулярності

ДОДАТОК E. Веб сайти по Сингулярності

ДОДАТОК Д. Додаткові Інтернет ресурси для російської версії

Що означатиме для нас створення штучного інтелекту розумнішого за людський? Якими будуть наслідки діяльності наноботів (роботів молекулярного розміру), які перебудовують світ молекула за молекулою? Як завантаження (переміщення Вашого розуму на комп'ютер), фізичне безсмертя або звільнення від необхідності працювати змінить ваше життя? Ці технологічні можливості надзвичайно швидко розвиваються та здійсняться швидше, ніж Ви думаєте.

Універсальні функції трьох рівнів організації.

Сингулярність - вибух нанотехнології, біотехнології та комп'ютерної технології.

Молекулярна нанотехнологія – повний контроль над структурою матерії на атомному рівні.

Молекулярна біотехнологія – функціональна генетика, мікробіологія, цитологія.

ІІ - комп'ютерний штучний інтелект з розумом та пізнавальними здібностями людського рівня.

СІІ – комп'ютерний штучний інтелект надлюдського рівня.

Універсальні функції на трьох рівнях організації.

• Перший рівень - "матерія. Описується дією загальних законів фізики та хімії.
• Другий рівень - "життя. Характеризується біологічними функціями життєзабезпечення, структурою ДНК, процесами, що описуються молекулярною біологією та молекулярною біотехнологією.
• Третій рівень - "розум. Відображає роботу функцій мислення, свідомості, інтелекту та перебіг різних інформаційних процесів.

Безліч корисних і цікавих речей у Всесвіті складені з атомів, наприклад - зірки та планети, космічні кораблі та літаки, гольф клуби та черевики для гольфу, шинка та яйця, улюблений собака та дружина. Поведінка цих атомів перебуває у сфері інтересів наук як фізика і хімія. Питання: в чому різниця між вашою дружиною і безліччю гольф клубів? Відповідь: тип упорядкування атомів. Технологія, яка зможе точно контролювати тип атомів та їх розташування у будь-якій "речі", стала б вкрай корисною технологією. Молекулярна технологія якраз і є такою технологією.

Допустимо, що у вас є подібна технологія. І ви вирішили похвалитися вашому сусідові за парканом, що ви можете робити абсолютно все. Після парочки простих трюків з виготовленням шпалерних ножиць і сонцезахисних окулярів він прийде у захват. Він попросить вас створити живого дракона, що літає, вогнедишного, і живиться тільки молодими дівчатами. Вас підколюють. Для того, щоб створити абсолютно новий живий організм або відремонтувати старий, або переконструювати існуючий живий організм, такий як ви самі, вам потрібно володіти деякими знаннями, які не були включені до вашого посібника користувача за молекулярною технологією.

Ви повинні знати, чим робота живих організмів відрізняється від простого руху молекул. Вам потрібна база знань з ДНК, білкових сполук, молекулярної біохімії, цитології та біології систем. І вам потрібний комплект засобів з назвою молекулярна біотехнологія. Ви також повинні знати, чи знаходяться ваші околиці в зоні дії вогнедишних драконів. Молекулярна біотехнологія є набір досить складних наукових методів. Але вам пощастило. Усі кошти, необхідні розвитку молекулярної біотехнології, входять до складу основних можливостей молекулярної нанотехнології.

Тим часом деякі люди, сидячи в місцевій зоні, пишуть на дошці оголошень, що їм необхідний певний тип автоматизованої системи інтелектуального моніторингу активності у навколишньому середовищі, щоб запобігати порушенням зональних приписів, що виходять, наприклад, від вогнедишних драконів. Комп'ютер у серці цієї системи повинен мати розширене розуміння навколишнього життя, здатність робити судження та передбачати наслідки дій. Він має бути розумним, тобто бути повноцінним штучним інтелектом.

Існує три різні походи до розробки ІІ. Ви можете створити його в штучному середовищі (у кіберпросторі). Або ви можете сісти та подумати, які алгоритми інформаційних процесів необхідні для сприйняття, навчання та планування. Або ви можете озброїтись засобами молекулярної нанотехнології для реконструкції людського мозку. А поки що давайте зафіксуємо деякі очевидні недоліки роботи нашого мозку.

Серед того, що варто підрегулювати, хотілося б покращити якість та детальність запам'ятовування, збільшити швидкість та точність процесу пізнання, здатність бездоганно виконувати довгі серії математичних чи логічних операцій, здатність виконувати нові алгоритми обробки інформації та змінювати склад та структуру існуючих розумових процесів.

Ми б хотіли запустити в роботу цей відтворений інженерними засобами, перевірений і реконструйований розум на більш надійному в дії апаратному забезпеченні, ніж на біологічних нейронах, наприклад, на електронній комп'ютерній мікросхемі з молекулярними нанотрубками, що стає можливим завдяки молекулярній нанотехнології.

З тих пір, як печерна людина в нашому далекому минулому вперше обтесала камінь у формі наконечника для списа, ми постійно створювали все більш досконалі інструменти. Молекулярна нанотехнологія, молекулярна біотехнологія та штучний інтелект є досконалими інструментами. Вони роблять нас творцями досконалих інструментів. А якщо ви думаєте, що всі ці нові технології виглядають як забава і, звичайно, ми не опануємо їх ще сотні років, то ви явно повинні прочитати наступний розділ - "Що таке Сингулярність?"

Що таке Сингулярність?

Сингулярність - це безпрецедентна подія в історії людей, коли життя, яке ми його знаємо, зміниться від "повсякденної справи" до стану віртуально необмежених можливостей.

Настання сингулярності підготовлено експоненційним розвитком передових технологій. Майже ніхто не має достатнього досвіду аналізу експоненційного технологічного розвитку. Це не є частиною нашого звичайного оточення. Ми еволюційно та культурно запрограмовані на очікування непомітної швидкості змін. Ми не маємо нейронних структур пізнання для моделювання експоненційної швидкості змін.

Свідченням є проект із розшифрування геному людини. У перше десятиліття прогрес був настільки слабким, що багато експертів пророкували, що для його завершення знадобиться ще 200 років. Понад 50 відсотків вихідних даних було отримано за останні дев'ять місяців п'ятнадцятирічного проекту.

Коли досягнення постійно подвоюються в послідовно рівних періодах часу, цей процес являє собою перший порядок експоненціального розвитку. Коли період часу подвоєння з часом скорочується, це другий порядок експоненційного розвитку.

Ми всі бачимо, як комп'ютери стають потужнішими, а ціни на них одночасно падають. Час подвоєння потужності комп'ютерів у розрахунку на один долар було 3 роки в 1950-х, 2 роки 1980-х, 1 рік у 90-х і 9 місяців до вересня 2002 року і продовжує зменшуватися.

Причина експоненційного технологічного зростання досягнень полягає в тому, що кожне збільшення досягнень у засобах проектування призводить до збільшення продуктивності майбутніх засобів проектування. Це цикл із позитивним зворотним зв'язком, що підвищує продуктивність засобів проектування. Більшість подібних циклів із зворотним зв'язком ґрунтується на постійній мініатюризації механічних та електричних систем, кінцевим підсумком яких і є молекулярна нанотехнологія.

Технології, що експоненційно розвиваються, змінять все наше життя за неймовірно короткий проміжок часу. Сингулярність веде до майже необмежених технологічних можливостей. Люди, які зараз борються за мізерні ресурси, знайдуть неймовірний добробут та свободу.

Незбагненне Сингулярності

Життя після Сингулярності сильно відрізнятиметься від того, що було раніше, але воно не буде незбагненним. Ми можемо надати досить повний список майбутніх технологічних можливостей. Соціальні наслідки цих змін торкнуться всіх нас. Необхідно, щоб більшість людства задумалася над тим, який би ми хотіли мати тип соціальних структур, якщо хочемо уникнути паніки.

Рекурсивно самовдосконалений ІІ розвине розум, який у кількісному відношенні швидко перевершить сьогоднішній людський рівень інтелекту. Ці кількісні покращення включатимуть розширення здібностей, збільшення точності та швидкості обробки даних. Кількісні поліпшення є лише розширенням пізнавальних здібностей, які ми маємо.

Якісні покращення або абсолютно нові способи усвідомлення та мислення, що знаходяться за межами нашого нинішнього розуміння речей, навряд чи можливі. Причина того, що ми не чекаємо появи якогось нового типу інтелекту, а очікуємо лише на новий рівень інтелекту, корениться в тому, що розум є спосіб вирішення проблем шляхом алгоритмічної інтерпретації. І ґрунтуючись на успіхах, які нам супроводжували при створенні фізичних, біологічних та інформаційних систем, можна підсумовувати, що ми вже досліджували досить широкий діапазон алгоритмічно-ефективного простору рішень. Звичайно, я не можу заперечувати твердження, що ми не знаємо того, чого ми не знаємо, але, я думаю, ми можемо розкласти все те, що ми ще не знаємо послідовно по поличках у більш маленькі скриньки або дрібні матрьошки.

Сингулярність трьох технологій

Сингулярність - це найбільша подія в історії людства. Вона настане внаслідок одночасної дії трьох просунутих технологій: штучного інтелекту, молекулярної нанотехнології та молекулярної біотехнології. Швидкість просування до точки Сингулярності спочатку збільшується поступово, але механізм зворотного зв'язку з кожним циклом, що скорочується, все швидше веде нас до Сингулярності. При досягненні Сингулярності здібності людства стають справді приголомшливими – повний контроль над структурою матерії на атомному рівні, повне знання біологічних процесів від макро до мікро та молекулярного рівня та надлюдський штучний інтелект.

Кожна з цих трьох технологій досягає фізичної межі в Сингулярності. Розпад суспільства та нашого способу життя буде повним. Сингулярність буде провісником початку нової ери, в якій фізична та розумова досконалість будуть нормою поряд з неймовірним добробутом та свободою. Ці плоди прогресу не випадуть лише частку існуючим привілейованим класам, а дістануться всім людським істотам.

Коли настане синґулярність?

Одним із фундаментальних відкритих питань щодо Сингулярності є питання – коли вона настане та наскільки швидко відбудуться технологічні зміни? Екстраполяція тенденцій показують, що Сингулярність має відбутися до 2020 року (можливо цю цифру слід переглянути і наблизити дату до 2018 або навіть 2016 року, якщо покладатися на останню оцінку Дені Едера (Dani Eder) про те, що час подвоєння потужності комп'ютерів місяців до вересня 2002 року) і вона має бути дуже раптовою, що характерно для природи експоненційною кривою.

Як усі ці зміни будуть втілюватися в життя? Елізер Юдковський вважає, що ІІ дозріє насамперед двох інших технологій і надлюдський штучний інтелект поведе нас через транзит (перехід). Він називає це "посібником з транзиту. Ерік Дрекслер і Ральф Меркле думають, що найбільш грандіозний потенціал закладено в молекулярній нанотехнології. Рей Курцвейл і Ханс Моравек очікують, що лідирувати на цьому шляху буде синтез комп'ютерів та людей.

Ці три технології будуть, ймовірно, розвиватися паралельно внаслідок їхньої взаємодії. Зріла нанотехнологія (повний контроль структури матерії на атомному рівні) дозволить нам швидко виробляти продукти з атомною досконалістю за ціною сировинних матеріалів у необмеженій кількості. Вона дозволить нам створювати матеріали в п'ятдесят разів міцніше за сталі або з будь-якими наперед заданими властивостями, з повним доступом і контролем біохімічних процесів у живих організмах. І надасть нам інструментарій для швидкого досягнення зрілості в молекулярній біотехнології та штучному інтелекті шляхом відновлювального інжинірингу нашого біологічного організму та функціонування людського мозку. Наслідки впливу суспільство важко переоцінити, хоча вони й переоцінювали у минулому. Причина була в тому, що в минулому не робилося різницю між сингулярними технологіями у розвитку та зрілими сингулярними технологіями.

Згідно з найбільш ймовірним сценарієм Сингулярності приблизно в районі 2011 року промислова нанотехнологія почне виробляти лавину дешевих товарів, що ліквідують бідність і голод у всьому світі. Приблизно до 2012 року комп'ютерна технологія, заснована на нанотехнології, збільшиться за своєю потужністю на шість порядків від того рівня, де вона буде в 2010 році. . Приблизно до 2014 року дослідження в галузі ІІ, засновані на нанотехнології та молекулярній біотехнології та комп'ютерній потужності, призведуть до створення першого надлюдського штучного інтелекту, СІІ.

Мініатюризація (нано)

Мініатюризація електромеханічних систем є найважливішим джерелом Сингулярних технологій. Досягнення продуктивності комп'ютерів породжені цим джерелом. Досягнення у засобах, що використовуються для розширення функціонально-генетичних знань, є похідними від мініатюризації та комп'ютерної потужності. Потужність комп'ютерів буде йти по п'ятих нано, тому що це найцінніша програма. Але, на відміну від нанотехнології та підвищення потужності комп'ютерів, створення ІІ вимагатиме величезних теоретичних проривів. Тому прогрес полягає у мініатюризації (нано), якій сприяє потужність комп'ютерів. Далі молекулярні засоби та потужні комп'ютери сприяють розвитку молекулярної біотехнології. І, нарешті, нанотех, інфотех та біотех поєднуються у виробництві СІІ.

Закон Мура не є основною рушійною силою Сингулярності. Для цього є набагато більше підстав. Ми можемо повернутися назад до початків і подивитися на закон Мура. Закон Мура має дві сторони - "як" та "чому".

"Як" - це цикл із зворотним зв'язком, де результат процесу використовується для створення більш досконалого механізму, що використовується таким чином у процесі подальшого збільшення швидкості, складності та продуктивності цього процесу. І звичайно, найкращий процес дає найкращий результат, який, у свою чергу, робить процес кращим і т.д. і т.д. Коли ми йдемо за законом Мура в минуле через дискретні транзисторні схеми, вакуумні трубки, механічні калькулятори і далі переходимо до обробки гуманітарної інформації в писемності, якій передувала усне мовлення, а потім просуваємося далі вглиб біогенетичної еволюції, а потім далі в розвиток. природи планетарного середовища, утворення галактик, конденсацію матерії з енергії, інфляцію Гута, і в межі - до вихідного безрозмірного стану Всесвіту, ми виявляємо і спостерігаємо цей цикл з процесом зворотного зв'язку на кожній стадії.

"Чому" – це економіка. Подібним чином мотиваційний аспект економічних сил можна простежити в минулому у змаганнях самців, природний відбір і далі через прояв самоорганізованих властивостей неживої матерії-енергії, в динаміці складних систем.

Але де початок? Що є фундаментальною парадигмою цих двох взаємопов'язаних концепцій "як" та "чому"? Якою є "базова концепція"? Деякі припускають, що Бог, але ця ідея, що цілком очевидно, легко відсікається Бритвою Оккама як безглузда й антропоморфна, яка без потреби ускладнює стан справ. Визначено, що базова концепція має передувати поняттю простору-часу та матерії-енергії і тому не може визначатися містичним актом творіння.

Що лишається? Інформація. Рей Курцвейл в одній зі своїх публічних бесід із Грегорі Стоксом стверджував, що гранично тавтологічна реальність – це структурована інформація. В обміні думками між Реєм та Елізером Юдковським, де Елізер запитував його про те, як той розуміє прискорення швидкості прогресу внаслідок зворотного зв'язку з ІІ. Рей відповів, що було б важко переоцінити вибухову швидкість подвоєння експоненційного зростання і що ІІ може виявитися одним із тих факторів, які призведуть до продовження закону Мура і після 2020 року.

Щось таке дивовижне, таке неймовірне, щось абсолютно безпрецедентне в історії має статися – Сингулярність. Три Сингулярні технології, такі як нанотехнологія, надлюдський штучний інтелект (СІІ) і молекулярна біотехнологія, перетворять наш світ на рай, якщо тільки ми зуміємо уникнути безпрецедентних небезпек, що таїться в самих же цих технологіях, а саме - біоінженерні супервіруси, озброєння у вигляді , недружні надрозумні машини та найбільша небезпека з усіх – схильність до необмеженого бездумного самозадоволення, зациклювання на кайфоманії.

Непорозуміння, що комп'ютерні програмісти вважають ІІ найнеобхіднішим елементом – це все через нерозуміння перспективи. Поговоріть із якимось дослідником, зайнятим вивченням генетичного коду. Він може спостерігати експоненційне зростання у своїй галузі. Він може уявити дивовижне майбутнє, яке ця технологія здатна надати - повний контроль біологічного дизайну живих організмів. І нанотехнологія, і генна інженерія дозріють до 2021 року незалежно від того, чи буде створено ІІ чи ні, і раптово зовсім змінять суспільство.

Термін "технологічна сингулярність" використовується неправильно. Найправильнішим є термін "соціальна сингулярність". Протягом усієї історії нові технології змінювали суспільство і хоча люди віддають належне природі, що ініціює, нововведень, проте найбільш значущим історичним аспектом завжди було те як змінюється суспільство.

Ось деякі з речей, які, як ми очікуємо, стануть можливими після Сингулярності:

1. Зріла молекулярна нанотехнологія призведе до виробництва будь-яких продуктів за ціною сировинних матеріалів, наприклад, комп'ютера за ціною мішка піску. Виробництво прискориться і необмежено збільшуватиметься. Якість удосконалюватиметься аж до атомного рівня. Потреба всіх необхідних матеріалів буде легко задовольнятися. Молекулярна нанотехнологія також виробить засоби, що сприяють розвитку молекулярної біотехнології та штучного інтелекту. Нанотехнологія створить нові матеріали в п'ятдесят разів міцніші за сталь, або з будь-якими запроектованими властивостями, необхідними для застосування в космічних подорожах, у великих конструкціях та інструментах.

2. Зріла молекулярна біотехнологія призведе до повного виключення хвороб, недієздатності і смерті від природних причин (проте ви все ж таки зможете кинутися вниз зі скелі). Люди зможуть мати тотальний контроль над проектуванням, структурою, функціонуванням та зовнішнім виглядом своїх тіл. Ми житимемо у фантастичному світі, населеному ангелами, феями, чаклунками, демонами та гоблінами. Індивідуальність буде характерною якістю. Досконалість тіла та розуму буде нормою. Нові фізичні можливості будуть типовими.

3. Надлюдський штучний інтелект призведе до таких наслідків у суспільстві та в наших можливостях, які здаються незбагненними для людського рівня інтелекту, включаючи завантаження людської свідомості, штучні світи, мораль на основі свободи волі та багато іншого.

В підсумку

Кінець світу майже поряд і дуже мало людей усвідомлюють це. Іноді я буваю настільки пригнічений жахливістю Сингулярності, що відчуваю, що маю приєднатися до хлопця на Мейн Стріт з гаслом - КІНЕЦЬ СВІТУ БЛИЗЬКИЙ.

Сингулярність - це проблема зв'язку рівнів організації матерії у Всесвіті. Верхній рівень – РОЗУМ, нижній рівень – АТОМИ (для наших сьогоднішніх цілей). Три технології, які відповідають трьом базовим рівням функціональності, це штучний інтелект, нанотехнологія та молекулярна біотехнологія. Повний успіх у цих трьох технологіях забезпечить такі радикальні зміни у наших здібностях, які призведуть до соціальної Сингулярності. Ми дуже близькі до створення останніх зв'язків.

Я сподіваюся, що відповів на деякі з Ваших питань щодо Сингулярності. Я сподіваюся, що мої відповіді стимулюють появу ще більшого потоку питань.

Чому вони не розуміють її

У мене на роботі нещодавно була розмова, яка, я думаю, ілюструє, чому громадськість не розуміє Сингулярності. У нас є співробітник на ім'я Домінік – це його справжнє ім'я. Не варто з нього жартувати, він колишній морський піхотинець.

Домінік - інтелігентний, добре освічений та добре поінформований хлопець, але він скептично ставиться до всіх, хто намагається всунути йому якийсь перелік товарів. Він дивиться новини та проводить багато часу зі своїм кабельним модемом для доступу до домашніх комп'ютерів. Він знає нові технології, постійно оновлюючи свій комп'ютер. У нього телевізор із великим екраном високої роздільної здатності. Він дивиться нові науково-фантастичні фільми.

Він точно з того гатунку людей, які, як я очікував, сприйняли б це.

Я говорив з ним про Сингулярність цілий рік і не зміг його переконати. Він бачить, що комп'ютери стають все швидше і швидше, але, незважаючи на думку експертів і на противагу їм він думає, що незабаром ми впораємося в стіну, що обмежує потужність комп'ютерів. І він каже, що він не розуміє, як швидше комп'ютери зможуть змінити все навколо.

Частина проблеми – це Голлівуд. У НФ фільмах змінюються лише технічні новинки, а економіка – ні. Люди все ще працюють заради того, щоб вижити і всякий мотлох все ще в ціні. Люди, як і раніше, дурні і смертні.

Такі речі, я думаю, не відповідають справжній картині, яку ми очікуємо після Сингулярності. І за винятком електроніки та деяких нових методів медицини він не бачить жодних драматичних прикладів мініатюризації, які дають йому якісь свідчення потенціалу чи близькості нанотехнології.

Щодо ІІ, то досить просунута система Alicebot знаходиться вкрай далеко від здобуття хоча б одного відсотка людського знання чи розуміння, а роботи – безглузді іграшки.

Один із сумних фактів щодо експоненційного зростання, якщо вам цього хочеться, полягає в тому, що майже всі звершення відбуваються практично наприкінці. Чому тоді я бачу це ясно як день, а він зовсім не бачить?

Все тому, що я прочитав цю книгу, а ні. Чи можу я змусити його прочитати цю книгу? Ні, він не любитель читати, він любить дивитися, слухати і їсти (чукча не читач, чукча – спостерігач).

Нам треба створити фільм, який показуватиме всі соціальні наслідки таких технологій, як нанотех, генотех та ІІтех. Чи є бажаючі допомогти мені в написанні сценарію?

У світі є всього кілька людей, які щиро вірять у наближення так званої технологічної сингулярності – моменту, коли інтелектуальні машини стануть розумнішими за людину. Одним із таких людей є, наприклад, футуролог, винахідник та технічний директор Google Рей Курцвейл, який вважає, що сингулярність – це не та річ, яку людство має боятися. Але, можливо, на даний момент немає більш завзятої людини, яка прагне настання цієї сингулярності, ніж генеральний директор японської телекомунікаційної медіакорпорації SoftBank Масаесі Сон.

Поглянувши на Ентоні Левандовскі, ви навряд чи наважитеся назвати його пророком. Одягнений у звичайні, повсякденні для Кремнієвої долини джинси і оточений кількома PR-агентами, а не армією послідовників у довгих балахонах, знаменитий інженер, який перебуває в центрі гучного судового розгляду, навряд чи підходив би на цю роль. Проте він ним є. Або, принаймні, прагне їм стати. Справа в тому, що Левандовскі заснував першу церкву, чия релігія полягає у поклонінні новому Божеству у вигляді штучного інтелекту.

Нещодавно ми про працюючого нині у футурологу Рее Курцвейлі. Він дотримується оптимістичних поглядів щодо людства та його долі у найближчі кілька десятків років. Курцвейл не вважає, що землянам потрібно швидше рвати пазурі в космос на інші планети. Він вірить у те, що ми станемо безсмертними. І тут народжується багато питань, головне з яких таке: технологічна сингулярність.