День технологічної сингулярності. Загальне трактування терміну

Думаю, багато хто читає ці рядки, на сьогоднішній день бачать, що прогрес з кожним днем ​​прискорюється. Ще на початку XX століття багато хто не вірив у літаки і думав, що «завтра буде сьогодні». Ця тенденція у суспільстві була завжди і спостерігається зараз. Завтра буде сьогодні.В принципі, це просте емпіричне спостереження, проте якщо порівняти те, що було рік тому, і що є сьогодні, стає видимим цей прогрес. Якби спостерігач провів таке спостереження на початку XIX століття, очевидний прогрес він навряд чи побачив би, хіба що потрапив би у переломний момент. Зараз різні наукові досягнення, дрібні і великі, відбуваються щодня. Інтернет став каталізатором цього процесу. Вільний обмін інформацією об'єднав вчених з усього світу і позбавив однієї з головних проблем - повторного винаходу, чим часто страждало минуле століття. Звичайно, зараз ця проблема, напевно, зберігається через таємність деяких державних програм, проте такі проекти - це крапля в морі тисяч ентузіастів. Зрозуміло, зараз спостерігаються не найкращі тенденції державного контролю, але я, мабуть, обговорюватиму в макромасштабі і не розбиратиму таких деталей.

Вже 49 років як виконується закон Мура, а Intel готує нам нові техпроцеси і нові підходи. Розробляються паралельно квантові комп'ютери, ДНК-комп'ютери, нейронні мережі... Все це сталося буквально за 30 років.

Все неминуче вказує на подальше прискорення прогресу та рух до якоїсь точки - технологічної сингулярності.

Теорія

Якщо трохи подумати, то можна зробити простий висновок: Якщо ми хочемо й надалі удосконалювати існуючі технології та створювати нові фантастичні, то ми маємо подолати межі нашої свідомості. Що я маю на увазі, говорячи це? Я маю на увазі, що людство скоро вп'ється в якийсь глухий кут розумових здібностей і, ймовірно, буде занурене в багаторічний застій і навіть «друге середньовіччя». Для того, щоб цього уникнути та продовжувати це швидке зростання, люди повинні щось зробити для підвищення потенціалу свого інтелекту. Це я опишу нижче.

На даний момент чітко бачаться три гілки науки, які можуть призвести людство до сингулярності:

1. Інформаційні технології.
2. Нанотехнології.
3. Біотехнології.

Інформаційні технології

Інформаційні технології (у кооперації з іншими) можуть дати нам два основні продукти: Сильний ІІ або (і) Інтерфейс Людина-Комп'ютер. Приблизною датою революції може бути названий вище 2030 рік.

ІІ

Користь

Шкода та ризики

Інтерфейс Людина-комп'ютер

Користь

Шкода та ризики

Нанотехнології

Машини фон Неймана

Користь

Крім медичного застосування, нанотех має величезний потенціал у будівництві величезних астроінженерних споруд космічного ліфта або навіть сфери Дайсона. Крім астроінженерних споруд, має бути вирішене питання будівництва величезних хмарочосів із композитних наноматеріалів. Цим може бути вирішено питання перенаселення та багаторівневих ферм та полів.

Шкода та ризики

Біотехнології

Фізичне безсмертя

Крім питань етики, в обговореннях про безсмертя часто порушується питання перенаселення. Особисто я вважаю, що люди, які стверджують, що після досягнення безсмертя населення різко піде вгору - дуже помиляються. Достатньо просто подивитися статистику та подивитися у тваринний світ. У країнах із низьким рівнем життя висока народжуваність, а у розвинених країнах типу Австралії, Німеччини, Ісландії, Фінляндії та інших видно абсолютний контроль над рівнем населення. У тваринному світі спостерігаються такі самі тенденції. Наприклад, різні комахи живуть день, але народжуються щодня мільярдами по всьому світу, а істоти, що довго живуть, має потомство максимум з двох-трьох особин.

Ноотропи

Може робити в думці найскладніші математичні обчислення, оперуючи з числами, що складаються з понад сто знаків. Також він довів, що за тиждень може вивчити зовсім незнайому йому мову (з прикладу ісландської мови).

Таким чином, розробка ноотропів, здатних відкрити ці розділи мозку, виведе інтелект нового рівня і супроводжує новими ризиками. По суті, це біологічний інтерфейс людина-комп'ютер, а тому на нього діють ті самі небезпеки, зокрема, вже згадана фрагментація суспільства.

Висновок

Цю статтю я задумав як статтю, яка має щось змінити у свідомості людей. Я хочу, щоб ми всі зрозуміли, що живемо в дуже цікавий і чудовий час, думаю, що саме наше покоління має або зануритися в темряву, або вирватися у фантастичне майбутнє фантастичних технологій.

P.S. Думаю, що коментарі знайдуться до моєї статті зауваження та питання, готовий оперативно їх вислухати та поправити недоліки:)
Дякую користувачу

Буквально нещодавно лише писав статтю про вплив. Тема мене трохи захопила, і я захотів ще глибше копнути в даному напрямку, і нарвався на термін.

Спочатку традиційно термінологія. Технологічна сингулярність це такий момент в історії людства, коли розвиток технологій досягне такої швидкості та рівня складності, що буде недоступним для нашого з Вами розуміння. Тобто. буквально – технології розвиватимуться незалежно від нашого з Вами знань та участі у їх створенні. І це стане можливим відразу ж у момент появи справжнього штучного інтелекту.

Проте, сам собою штучний інтелект це ще єдиний чинник. Другий важливий момент - це поява самовідтворюваних машин-роботів. Тобто. людина буде буквально не потрібна для розвитку і буде викинута у звалище історії, як неандертальці та кроманьйонці.

Технологічна сингулярність. Страшне майбутнє.

За даними різних учених-дослідників у цій галузі, така може настати вже скоро, в діапазоні років від 2030 до 2045 років. Тобто. ми з Вами ось-ось станемо свідками переходу людства до іншої епохи. Не знаю, як Вас – але особисто мене така перспектива відверто лякає. І причин тому дві.

По-перше, ніхто з нас не знає, як поведуться суперкомп'ютери зі штучним інтелектом по відношенню до людей. Цілком можливо, що «Скайнет» із серії фільмів про «Термінатор» стане далеко не вигадкою. Неможливо передбачити розвиток нашої цивілізації, спираючись лише на досвід соціальної поведінки, адже тепер людина не буде домінуючою фігурою на Землі.

По-друге, для мене якось дивна втрата контролю за технологіями та їх розвитком. Подивіться – навіть зараз ми, будучи найрозумнішими представниками на цій планеті, поводимося вкрай нерозумно, розв'язуючи війни, знищуючи цілі народи та культурні спадщини. А як поведуться машини, не обтяжені такими почуттями як любов, патріотизм, співчуття, милосердя і таке інше? Що якщо світом почне правити суто практичність? Чи є місце в такому світі для людей і навіть для інших тварин?

З іншого боку, розвиток технологій найімовірніше підштовхне і розвиток людських можливостей, шляхом інтеграції мікроелектроніки в тіло людини (симбіоз органіки та технологій). Наприклад, це дозволить виліковувати складні смертельні хвороби, або розвиватиме здатність до мислення, обчислювальних здібностей мозку та запам'ятовування інформації, або значно підвищить можливості організму аж до безсмертя. Нині ми не маємо відповіді на ці запитання.

Ідея виникнення технологічної сингулярності ґрунтується на законі Мура, в якому стверджується, і на даний момент вона повністю підтверджується, що кожні вісімнадцять місяців відбувається подвоєння обчислювальних транзисторів у комп'ютерах. І незабаром їх потужність досягне рівня можливостей людського мозку: 10-17 ступеня операцій на секунду.

Цікаво, що згадка про темп зростання знань, що прискорюється, зустрічається в роботах аж у Фрідріха Енгельса.

Наслідки.

Йдеться прорахунок різних сценаріїв наслідки технологічної сингулярності. І, як завжди, вчені розділилися на два табори. Одні на нього пристрасно чекають і вважають, що ці наслідки будуть лише позитивними. Інші дуже побоюються і намагаються попередити людей про небезпеку. Але при цьому всі розуміють, що прогрес уже не зупинити, і рано чи пізно ми досягнемо точки технологічної сингулярності, що, безумовно, стане поворотною точкою розвитку людства. А ось хороший чи поганий – покаже час.

Потрібно розуміти, що ініціатором виникнення сингулярності є людина. І, за ідеєю, ми могли б підготуватися до переходу до постсингулярного світу, зробивши його більш позитивним, плавним та контрольованим. А зробити це можна лише ґрунтуючись на законах моральності, усвідомивши можливі наслідки та додавши чимало ресурсів.

Цікаво, хто з Вас чекає з нетерпінням на цю подію і чому? Які думки у Вас з цього приводу – поділіться у коментарях.

PS: Все сказане тут – суто моя особиста думка. Нагнітати страхи не планував і не маю такого бажання.

У філософії слово «сингулярність», що походить від латинського «singulus» - «поодинокий, одиничний», позначає одиничність, неповторність чогось - істоти, події, явища. Найбільше над цим поняттям розмірковували сучасні французькі філософи – зокрема Жіль Делез. Він трактував сингулярність як подія, що породжує сенс і має точковий характер. «Це поворотні пункти та точки згинів; вузькі місця, вузли, присінки та центри; точки плавлення, конденсації та кипіння; точки сліз та сміху, хвороби та здоров'я, надії та зневіри, точки чутливості». Але при цьому залишаючись конкретною точкою подія неминуче пов'язана з іншими подіями. Тому точка одночасно є і лінією, що виражає всі варіанти модифікації цієї точки та її взаємозв'язків із усім світом.

Коли людина створить машину, яка буде розумнішою за людину, історія стане непередбачуваною, тому що неможливо передбачити поведінку інтелекту, що перевершує людський.

В інших науках термін «сингулярність» став означати поодинокі, особливі явища, котрим перестають діяти звичні закони. Наприклад, в математиці сингулярність - це точка, в якій функція поводиться нерегулярно - наприклад, прагне нескінченності або не визначається взагалі. Гравітаційна сингулярність - це область, де просторово-часовий континуум настільки викривлений, що перетворюється на нескінченність. Вважають, що гравітаційні сингулярності з'являються в місцях, прихованих від спостерігачів - згідно з «принципом космічної цензури», запропонованим у 1969 році англійським ученим Роджером Пенроузом. Він формулюється так: «Природа живить огиду до голої (тобто видимої зовнішньому спостерігачеві) сингулярності». У чорних дірах сингулярність прихована за так званим горизонтом подій - уявною межею чорної діри, за межі якої нічого не виривається, навіть світло.

Але вчені продовжують вірити в існування десь у космосі голих сингулярностей. А найяскравіший приклад сингулярності - стан із нескінченно великою щільністю матерії, що виникає у момент Великого вибуху. Цей момент, коли весь Всесвіт був стиснутий в одній точці, залишається для фізиків загадкою - тому, що він передбачає поєднання взаємовиключних умов, наприклад, нескінченної щільності та нескінченної температури.

У сфері IT чекають на прихід іншої сингулярності - технологічної. Вчені та письменники-фантасти позначають цим терміном той переломний момент, після якого технічний прогрес прискориться та ускладниться настільки, що виявиться недоступним нашому розумінню. Вихідно цей термін запропонував американський математик і письменник-фантаст Вернор Віндж у 1993 році. Він висловив таку ідею: коли людина створить машину, яка буде розумнішою за людину, історія стане непередбачуваною, тому що неможливо передбачити поведінку інтелекту, що перевершує людський. Віндж припустив, що це відбудеться в першій третині XXI століття, десь між 2005 та 2030 роками.

У 2000 році американський фахівець з розвитку штучного інтелекту Елієзер Юдковський також висловив гіпотезу про те, що, можливо, в майбутньому з'явиться програма штучного інтелекту, здатна вдосконалювати саму себе зі швидкістю, яка багато разів перевершує людські можливості. Близькість цієї ери, на думку вченого, можна визначити за двома ознаками: техногенне безробіття, що росте, і екстремально швидке поширення ідей.

«Ймовірно, це виявиться найстрімкішою технічною революцією з усіх раніше відомих, - писав Юдковський. - Впаде, найімовірніше, як сніг на голову - навіть залученим до процесу вченим… І що ж тоді станеться через місяць чи два (або через день-другий) після цього? Є лише одна аналогія, яку я можу провести – виникнення людства. Ми опинимося в постлюдській ері. І незважаючи на весь свій технічний оптимізм, мені було б набагато комфортніше, якби мене від цих надприродних подій відокремлювали тисяча років, а не двадцять».

Темою технологічної сингулярності надихалися письменники жанру «кіберпанк» – наприклад, вона зустрічається у романі Вільяма Гібсона «Нейромант». Вона показана і в популярному романі сучасного фантаста Дена Сіммонса «Гіперіон» - там описується світ, окрім людей, населений Іскінами - тобто носіями штучного інтелекту, які вступають у конфлікт із людством.

Як говорити

Неправильно "Це був сингулярний випадок, коли механізм вийшов з-під контролю". Правильно – «поодинокий».

Правильно «Я впевнений, рано чи пізно Всесвіт знову зникне в сингулярність».

Правильно «Мені подобається цей роман – найкращий опис технологічної сингулярності з усіх, що я читав».

«Ти лише машина. Лише імітація життя. Робот напише симфонію? Робот перетворить шматок полотна на шедевр мистецтва?» — каже герой фільму «Я робот», знятий за мотивами однойменної збірки оповідань Айзека Азімова, одного з найвідоміших письменників-фантастів 20 століття. А що, якщо в недалекому майбутньому робот зуміє не тільки скласти симфонію, а й зробити будь-яку дію, на яку раніше була здатна лише людина? Що, якщо фантасти вміло пророкували найімовірніший варіант нашого майбутнього? Футурологи всього світу намагаються відповісти на запитання, чи зможуть ті, кого створила сама людина, перевершити її у можливостях, а якщо зможуть, то коли і що з цього вийде?

Відомий демограф Ніколас Еберштадт у своїй лекції «Що буде з населенням Землі у 2035 році?» зазначив, що демографічне збільшення людства йде експонентом. Поріг у 100 мільйонів людей долався за 1000 років до Різдва Христового. Людству знадобилося тисячоліття для такого демографічного ривка. При цьому перший мільярд з'явився приблизно 200 років тому, потім мільярд став з'являтися кожні 100 років, потім кожні 50, зараз новий мільярд з'являється кожні 12-13 років.

Це ілюстрація експоненційного закону зростання, він проявляється на різних «гілках» розвитку, у тому числі й на технологічному. У 1965 році засновник корпорації Intel Гордон Мур вивів логарифмічний закон, згідно з яким кожні півтора роки комп'ютери стають вдвічі «розумнішими». На думку американського футуролога Реймонда Курцвейла, якщо закон Мура продовжить функціонувати, то вже до 2030 комп'ютери за своєю продуктивною потужністю зможуть наблизитися до мозку людини. Імовірність прискореного розвитку техніки та появи в якийсь момент надрозуму припускають багато футурологів світу і називають це технологічною сингулярністю.

Читайте також

Вперше концепцію технологічної сингулярності представив професор математики та письменник-фантаст Верно Віндж на симпозіумі VISION-21 у 1993 році:

«Сингулярність - це точка, в якій наші старі моделі доведеться відкинути, де запанує нова реальність.

Коли прогрес спрямовуватиметься інтелектом, що перевершує людський, він стане набагато стрімкішим. Фактично, немає підстав вважати, що прогрес стане плодити дедалі розумніші сутності і дедалі швидшими темпами.

Така подія анулює через непотрібність все зведення людських законів, можливо, миттєво. Некерована ланцюгова реакція почне розвиватися експонентом без будь-якої надії на відновлення контролю над ситуацією. Зміни, на які, як вважалося, будуть потрібні «тисячі століть» (якщо вони взагалі відбудуться), швидше за все, трапляться у найближчі сто років».

Віндж бачить кілька шляхів розвитку цієї теорії:

1. Виникне надлюдський розум унаслідок розвитку техніки;
2. Підвищиться ефективність людського розуму та фізичних характеристик за допомогою;
3. Великі комп'ютерні мережі можуть самостійно ідентифікувати себе як розумні сутності;
4. Синтез комп'ютера та людини призведе до того, що людина сама матиме надінтелект.

Людина замислилася про створення штучного інтелекту, щоб спростити собі життя та оптимізувати більшу частину роботи. Завдяки оптимізації комп'ютери вже займають не цілі приміщення, а можуть просто уміститися в долоні, і їхня вартість зменшилася в десятки разів. Роботи в наш час навчилися виконувати команди, прибирати квартири, ми отримали «розумні» будинки, існує навіть робот-художник, здатний відтворити будь-яку картину. Техніка стала не просто компактною і дешевою, а й інтелектом. Комп'ютер може розпізнати ваш голос і перевести інформацію в байти, більшість цехів оснащено новітніми технологіями для виробництва нової продукції, знайти якусь людину теж не важко за допомогою системи, що розпізнає обличчя. Якщо згадати закон, який згадувався на самому початку, то можна розрахувати, що вже до 2040 року кожен з нас зможе придбати процесор, що дорівнює обчислювальній потужності людського мозку.

Продовжувати цей список можна нескінченно довго, але що чекає на нас, якщо одного разу всі замінять комп'ютерами: місце вчителів займуть інтерактивні помічники, автомобілям більше не знадобиться водій, а найкращим художником десятиліття визнають робота нового зразка? Все це не так далеко, як здається: вже зараз роботи легко можуть перевершувати людину в плані ефективності і продуктивності. Робот не втомлюється, не виходить у відпустку і не вимагає оплати у звичному нам розумінні. Лише витрати на технічне обслуговування. Чи ми можемо точно передбачити, що станеться після технологічної сингулярності, проте деякі деталі можна оцінити і зараз.

Розглядаючи ідею створення надлюдського розуму, слід зазначити, що вже сьогодні продуктивність суперкомп'ютера IBM «Watson» оцінюється приблизно 80 трильйонів операцій на секунду. Новини про розвиток та нові можливості комп'ютера з'являються із завидною регулярністю.

Скріншот пошуку Google

IBM «Watson» здатний давати відповіді на питання, аналізувати інформацію та приховані в питаннях значення, планується використовувати суперкомп'ютер для допомоги в діагностиці та лікуванні раку, і хоча комп'ютер поступається людині у прийнятті рішень на асоціативному рівні, американська компанія Neuromatters та Колумбійський університет у Нью- Йорку вже уклали договір на розробку технології, яка поєднуватиме комп'ютерну потужність і потужність людського мозку для вирішення цієї проблеми.

Синтез людини і комп'ютера пророкували багато письменників-фантастів і футурологів, намагаючись зазирнути в недалеке майбутнє. Якщо говорити про кіборги, на думку відразу приходять Термінатор або Адам Дженсен з Deus Ex. Здається, це занадто фантастично, щоб виявитися реальністю, проте, як казав Вільям Гібсон, «майбутнє вже тут воно просто нерівномірно розподілене».

Заглиблюємось

Ще Едгар Алан По у своєму оповіданні «Людина, яку порубали в шматки» торкався теми аугментації, а саме нарощування імплантатів на тіло для відтворення людини за допомогою технологічної потужності. У сучасному світі вже нікого не здивувати операціями із заміни кінцівок на автоматизовані. Але прогрес не стоїть на місці, і вчені з університету Carnegie Mellon вирішили піти далі і інтерфейс «розумного» годинника за допомогою комплекту з кільця та браслета. Кільце посилає сигнал постійно струму в палець і тепер керувати годинником можна простим торканням своєї руки.

Співзасновник компанії Cyborg Nest Лівіу Бабітс заявив:

«Наша мета – допомогти багатьом людям стати кіборгами. Ми віримо, що якщо відчути те, що відчувають тварини, зміниться розуміння світу. Це дозволить нам ступити наступного етапу еволюції».

І вже зараз з їхньою допомогою людина може без операцій приєднати до себе чіп, який допоможе орієнтуватися у просторі та вібруватиме щоразу, коли носій повертатиме на північ.

«Франкенштейни 21 століття» існують, і їх дедалі більше. Потенційний розвиток технологічного процесу намагалися передбачити та візуалізувати творці серіалів «Чорне дзеркало» та «Світ дикого заходу», адже саме зараз ця тема є актуальною як ніколи. Представляючи різні погляди світ майбутнього, автори не забули і роботах, чия роль настільки велика у наш час.

Ми живемо у вік, коли вже винайдені літаючі машини, а роботи виконують функції офіціантів. У 2009 році компанія Robosoft представила автобус, здатний переправляти людей спокійними ділянками дороги без допомоги водія. І хоча в небезпечних ситуаціях водії брали керування на себе, ми не такі далекі від поширення таксі без водіїв.

Що ж на нас чекатиме, коли створена нашими руками техніка зможе розвиватися незалежно від нас? І хоча футурологи сходяться на думці, що передбачити майбутнє після технологічної сингулярності неможливо, вони впевнені, що його можна припустити, як це зробив Рей Курцвейл.

Але крім футурологів цим активно намагаються займатися сучасні кіносправи, знімаючи на тему майбутнього людства одну картину за іншою. Більшість фільмів, які показують нам передбачуваний сюжет найближчого майбутнього, «олюднюють» роботів, роблячи їх чимось схожими на людей термінатор, трансформери тощо. Але навряд чи у комп'ютера, що має надлюдський розум, виникне потреба створювати свій образ за подобою людського.

Наукова фантастика також не залишилася осторонь цієї теми. Айзек Азімов сформулював три закони робототехніки, один з яких свідчить, що робот не може завдати шкоди людині. Але чи так буде насправді? Більшість фантастів уявляють не надто оптимістичний погляд на майбутнє людства. Втім, є й інша думка щодо цього. Письменник Олександр Ніконов та футуролог Олександр Жаров вважають, що людина зможе вступити в симбіоз зі штучним інтелектом та розвивати навички, залишаючись при цьому тим, хто контролює свій розум та тіло.

То що з усього цього може статися найближчим часом? Найімовірніше, на нас чекає масова «чіпізація», яка тільки починає набирати обертів. Про це говорили ще 2015 року експерти Всесвітнього економічного форуму. Окрім іншого, вони обговорювали можливість появи телефонів, вбудованих у тіло людини, у найближчі 10 років. Але вживленням NFC-чіпів у вузьких колах займаються вже зараз (так, наприклад, 2015 року московський інженер Влад Зайцев ушив собі під шкіру NFC-чіп карти «Трійка»). У медицині з'являтимуться розробки у сфері пошуку «безсмертя» як біологічного, так і кібернетичного. Цьому сприяють вже винайдені технології вирощування органів та виробництва штучної крові. Безперечно, у такому майбутнє є як позитивні, так і негативні сторони. Важко оцінити всі ризики та зробити точні прогнози. Однак немає сенсу боятися майбутнього, воно неминуче. Варто пам'ятати лише про те, як сильно те, що відбувається сьогодні, впливає на те, що буде завтра.

Техніка увійшла до нашого життя дуже давно, і важливість її безсумнівна. Вивченням феномена техніки займалося багато філософів, займаються і зараз. Мартін Хайдеггер, розмірковуючи про сучасні феномени, зокрема про феномен техніки, розглядав явища, які не відбуваються зараз. Він розглядав можливі явища у перспективі. Існуючий стан справ Хайдеггер оцінює негативно. Аналізуючи техніку, він показує, що трактування її як нейтрального феномена, як і засоби діяльності, закриває можливість зрозуміти сутність техніки, приховує можливість свідомо впливати неї. Хайдеггер каже, що «найгіршим чином ми віддаємося у владу техніки тоді, коли розглядаємо її як щось нейтральне; адже таке уявлення про техніку, нині особливо поширене, робить нас абсолютно сліпими щодо сутності техніки». Він вводить трактування техніки як «постава» (будь-яка техніка розглядається як функціональний елемент постачаючого виробництва), показуючи потім, що людина і природа самі перетворюються на постав і тим самим блокує звичне для нас переконання, що людина стоїть над технікою і природою і що техніка не впливає природу.

Негативну оцінку техніки Хайдеггер висловлює у таких словах: «Небезпечна не техніка сама собою. Немає жодного демонізму техніки; та є таємниця її істоти. Істота техніки як місія розкриття таємниці - це ризик. Змінене нами значення слова “постав”, можливо, стане нам трохи ближчим, якщо ми подумаємо тепер про поставу в сенсі посланості та небезпеки». Хайдеггер прагне показати, що техніка не є чимось зовнішнім до буття, а збігається з ним. Тому для того, щоб вплинути на техніку в потрібному напрямку, потрібно змінювати і саме буття: «Якщо істота техніки, поставши як ризик, надісланий буттям, є саме буття, то техніку ніколи не вдасться взяти під контроль просто вольовим зусиллям, будь воно позитивним і негативним. . Техніка, чия істота є саме буття, ніколи не дасть людині подолати себе. Це означало б, що людина стала паном життя» . Але відразу стверджує, що й без свідомих зусиль людини техніка не може змінитися. Можна сказати, що необхідною умовою осмисленого впливу на техніку є, за Хайдеггером, робота людини над собою: людина повинна згадати і зрозуміти свої вищі цінності, щоб підкорити цінності не такі високі: комфорту, влади над природою і т.п.

Проблема, порушена Хайдеггером, дуже складна. Її не можна вирішити лише технічними методами. Проблема співіснування людини та техніки хвилююча і зараз. Є чимало робіт, що вийшли у світ відносно нещодавно, що стосуються цієї тематики. Аналіз однієї з таких статей, що перегукується з основними ідеями Хайдеггера, викладеними вище, присвячений даний реферат.

1993 року на симпозіумі VISION-21, який проводився 1993 року Центром космічних досліджень NASA ім. Льюїса та Аерокосмічним інститутом Огайо, була представлена ​​стаття «Наступна технологічна сингулярність: як вижити в пост-людську еру». Автором доповіді був математик та письменник Вернор Віндж (Vernor Vinge). 2003 року автор доповнив цю статтю деякими коментарями. Стаття була написана понад десять років тому, але актуальна й досі. Ті коментарі, які вніс автор через десять років після початкового написання, лише доповнюють початкову статтю.

Ґрунтуючись на перекладі цієї статті з коментарями та на деяких інших джерелах, у цьому рефераті я хотів би приділити увагу наступним питанням: що таке «технологічна сингулярність», як вона може вплинути на людство, як людство може вплинути на неї, чи має сенс приділяти їй будь-яка увага, ставитись до неї як до релігії або як до наукової (псевдо-наукової) теорії.

Що таке Сингулярність?

Термін сингулярність (лат. singularis - окремий, особливий) запозичений у астрофізиків, які використовують його при описі космічних чорних дірок і, в деяких теоріях, початку всесвіту - крапки з нескінченно великими масою і температурою та нульовим об'ємом. Математично сингулярність – точка функції, значення функції у якій прагне нескінченності, чи інші подібні " цікаві " точки. Яке ставлення може мати поняття сингулярності до технології?

Однією з особливостей ХХ століття є прискорення технічного прогресу. Людство стоїть на межі змін, які можна порівняти з появою розумної людини на землі. Головна причина цих змін у тому, що вдосконалення та розвиток техніки призводить до того, що техніка стає все більш витонченою та «розумною». Все це веде до створення сутності з інтелектом, що перевищує людську. Бачиться кілька шляхів, якими наука може досягти такого прориву:

1. Комп'ютери знайдуть "свідомість", і виникне надлюдський інтелект. (В даний час немає єдиної думки про те, чи зуміємо ми створити машину, рівну людині, проте, якщо це вийде, безсумнівно, незабаром потім можна буде сконструювати ще розумніші істоти).

2. Великі комп'ютерні мережі (та його об'єднані користувачі) можуть " усвідомити себе " як надлюдськи розумні сутності.

3. Машинно-людський інтерфейс стане настільки тісним, що інтелект користувачів можна буде обґрунтовано вважати надлюдським.

4. Біологія може забезпечити нас засобами покращення природного людського інтелекту.

Перші три можливості безпосередньо пов'язані з удосконаленням комп'ютерного апаратного забезпечення. Четверта можливість також залежить від цього, хоч і побічно. Прогрес апаратного забезпечення протягом кількох десятиліть разюче стабільний. Виходячи з цієї тенденції, автор статті робить висновки, що інтелект, який перевершує людський, з'явиться протягом найближчих тридцяти років. Щодо цього, звичайно ж, можна легко знайти дотепну критику. Чарльз Плат, наприклад, зауважив, що ентузіасти штучного інтелекту роблять подібні твердження вже років тридцять. Тому Віндж вказує суворіші часові рамки: це має статися між 2005 та 2030 роками. Заява ця була зроблена ще 1993 року, а 2004 року автор, доповнюючи свою статтю коментарями, підтвердив свою впевненість у цих термінах. Вважаю, що однією з ознак, що використовуються для отримання цієї дати, був закон Мура, який проголошує: кількість транзисторів на нових кристалах мікропроцесорів подвоюється кожні півтора роки. Якраз між 2015-2030 роками обчислювальна потужність комп'ютерів зрівняється з потужністю людського мозку, що оцінюється в 10 16 операцій на секунду (а потім перевершить її). Крім того, далі за текстом статті Вернон Віндж посилається на деякі криві зростання продуктивності. Схоже, що вони мають гіперболічний вигляд, а особлива точка якраз припадає на зазначений період.

Виникає питання: якими будуть наслідки наукового прориву та появи надлюдського розуму? Автор статті дає свою відповідь на це запитання. Прогрес, спрямований інтелектом, що перевершує людський, стане значно стрімкішим. Немає підстав вважати, що прогрес стане плодити дедалі розумніші сутності темпами, що прискорюються. Найкраща аналогія, яку можна тут провести – наше еволюційне минуле. Тварини можуть пристосуватися та виявляти винахідливість, але швидкість еволюції обмежена природним відбором. Що стосується природного відбору світ сам виступає у ролі свого симулятора. Ми, люди, маємо здатність засвоювати навколишній світ і вибудовувати в голові причинно-наслідкові зв'язки, тому ми вирішуємо багато проблем у тисячі разів швидше, ніж механізм природного відбору. Коли ж з'явиться можливість прораховувати ці моделі з вищими швидкостями, ми увійдемо в режим, який відрізняється від нашого людського минулого не менш радикально, ніж ми, люди, самі відрізняємося від нижчих тварин.

Подія ця девальвує все зведення людських законів через непотрібність. Можливо, це станеться дуже швидко. Зміни розвиватимуться за експонентом без жодної надії на відновлення контролю за ситуацією. Цю подію Віндж назвав Сингулярністю (саме так, з великої літери). «Це точка, в якій наші старі моделі доведеться відкинути, запанує нова реальність. Це світ, обриси якого будуть ставати все чіткішими, насуваючись на сучасне людство, поки ця нова реальність не заслонить собою навколишню дійсність, ставши буденністю. І все ж, коли ми такої точки нарешті досягнемо, ця подія все одно стане великою несподіванкою та ще більшою невідомістю». (Тут і далі, якщо не вказано протилежне, джерелом цитати є стаття, що розглядається.)

Великий учений у галузі обчислювальної техніки Джон фон Нейман вів одного разу розмову зі Стеном Юламом «…про безперервно прискорюваний технічний прогрес і зміни в способі життя людей, які створюють враження наближення деякої найважливішої сингулярності в історії земної раси, за якою всі людські справи, у тому вигляді , У якому ми їх знаємо, не зможуть продовжуватися »

У середині двадцятого століття, у шістдесяті роки, Ірвінг Джон Гуд писав: «Визначимо надрозумну машину як машину, яка здатна значно перевершити всі інтелектуальні дії будь-якої людини, хоч би якою вміною вона була. Оскільки здатність розробити таку машину також одна із цих інтелектуальних дій, надрозумна машина може побудувати ще більш досконалі машини. За цим, безсумнівно, буде "інтелектуальний вибух", і розум людини набагато відстане від штучної. Таким чином, перша надрозумна машина стане останнім винаходом, який випаде на долю людини, за умови, що машина буде досить покірною і повідає нам, як тримати її під контролем... І ймовірність того, що в двадцятому столітті надрозумна машина буде побудована і стане останнім винаходом, який зробить людина, вища, ніж ймовірність того, що цього не станеться»

Щоб не спекулювати на тему штучного інтелекту, кидаючись голослівними твердженнями, необхідно зробити невеликий екскурс у проблему вивчення штучного інтелекту, а головне, проблему визначення штучного інтелекту.

Що таке штучний інтелект

Щоб відповісти питанням «Що таке штучний інтелект», звернувся до запровадження до монографії Петрунина Ю.Ю. «Від таємного знання нейрокомп'ютера: Нариси з історії штучного інтелекту». У ній представлений надзвичайно повний і об'єктивний погляд на проблему реалізованості штучного інтелекту.

З приводу штучного інтелекту у колі фахівців із цього питання постійно виникають суперечки за будь-якої зручної нагоди. Головне питання, яке при цьому виникає: чи можливий штучний інтелект? Чи можна навчити машину думати? Чи вірите Ви у можливість створення штучного інтелекту? У всіх цих питаннях використовується модальність вірування, з чого можна зробити висновок, що питання про штучний інтелект виходить за рамки наукового. Патрік Вінстон, один із найбільших авторитетів у цій галузі, сказав: «Щодо розуму обчислювальних машин… є багато ходячих міфів» . Можна сказати, що сам термін «штучний інтелект» означає міф, який широко проник у сучасну звичайну та наукову свідомість. У разі міф мається на увазі не як помилковість якогось уявлення, бо як те, що це уявлення може бути перевірено емпірично і раціонально обгрунтовано.

Для емпіричної перевірки потрібно чітке уявлення у тому, що саме перевіряти, тобто. Точне уявлення у тому, що таке штучний інтелект. Але з цього приводу А. Ендрю зауважує: «По суті останній так і не отримав достатньо задовільного визначення. Тому, … зрештою, нам доведеться повернутися до нашого інтуїтивного уявлення про інтелект» .

Реферативний журнал "Abstracts in Artificial intelligence" (The Turing institute, ed. J. Ritchie) вводить наступний поділ штучного інтелекту на проблеми:

1. Експертні системи

2. Застосування штучного інтелекту

3. Автоматичне програмування

4. Автоматичний доказ теорем

5. Логічне програмування

6. Навчання

7. Природна мова

8. Пошук

9. Управління та планування

10. Робототехніка

11. Зір та обробка зображень

12. Розпізнавання образів

13. Когнітивне моделювання

14. Взаємодія людини та ЕОМ

15. Технічні засоби для штучного інтелекту

Список досить значний. Завдання дуже різні. Що їх об'єднує?

«Якби фізики чи хіміки взялися дати абстрактні визначення своїх галузей знання, – підкреслює Еге. Хант, – то швидше за все не знайшли б розбіжностей ні серед тих, ні серед інших. Навряд чи виявилася б така одностайність, якби довелося зібрати разом різних учених, які займаються штучним інтелектом» .

Існує чимало визначень штучного інтелекту. Але вони всі настільки різні, що здається, ніби йдеться про різні речі. Так, одні вважають, що інтелект – це вміння вирішувати складні завдання, інші – здатність до навчання, треті – можливість взаємодії із зовнішнім світом шляхом узагальнення сприйняття. Є вчені, які розвивають теоретичну модель, де за здійснення інтелектуальної діяльності відповідає близько 120 чинників. Із них лише 50–60 відомі сьогодні.

Однією з уявних виходів із ситуації є звернення до природного інтелекту як до зразка. Можна було б сказати, що машина має інтелект, якщо те завдання, яке вона виконує, вимагало б від людини, якби людина була на місці машини, інтелектуальних зусиль. Хороше твердження? На жаль, перевіряючи його, легко дійти абсурду: при виконанні арифметичних дій людина використовує свій інтелект – це ні в кого не викликає сумнівів, але твердження, що звичайний калькулятор має інтелект не прийме ніхто.

У 1950 році британський математик і фахівець у галузі обчислювальної техніки Алан Т'юрінг запропонував тест, який дозволяє визначити, чи є випробуване щось думаючим чи ні. Суть тесту полягає у наступному. Суддя (людина) листується природною мовою з двома співрозмовниками, одна з яких – людина, інша – комп'ютер. Якщо суддя не може надійно визначити, хто є хтось, комп'ютер пройшов тест. Передбачається, що кожен із співрозмовників прагне, щоб людиною визнали його. Щоб зробити тест простим та універсальним, листування зводиться до обміну текстовими повідомленнями. Листування повинне проводитися через контрольовані проміжки часу, щоб суддя не міг робити висновків, виходячи зі швидкості відповідей. Це з тим, що у часи Тьюринга комп'ютери реагували повільніше людини. Зараз це правило необхідно, тому що вони реагують набагато швидше, ніж людина. Тест був інспірований салонною грою, під час якої гості намагалися вгадати стать людини, яка перебуває в іншій кімнаті, шляхом написання запитань та читання відповідей. В оригінальному формулюванні Тьюринга, людина мала прикидатися людиною протилежної статі, а тест тривав 5 хвилин. Зараз ці правила не вважаються необхідними та не входять до специфікації тесту.

1964 року великим американським кібернетиком Дж. Вейценбаумом була створена програма «Еліза» (ELIZA), що імітує поведінку психіатра. Пацієнти, з якими розмовляла ця програма, здебільшого були впевнені, що спілкуються з лікарем. Проте успіх цієї програми нікого не може змусити вважати її штучним інтелектом. Не були виконані серйозні умови проходження тесту - випробувачі не були повідомлені, що вони зараз проводять випробування.

Поки що жодна програма і близько не підійшла до тестування. Такі програми, як «Еліза», іноді змушували людей вірити, що вони розмовляють із людиною, як, наприклад, у неформальному експерименті, названому AOLiza. Але такі «успіхи» є проходженням тесту Тьюринга. По-перше, людина в таких бесідах не мала жодних підстав вважати, що вона говорить з програмою, тоді як у справжньому тесті Тьюринга людина активно намагається визначити, з ким вона розмовляє. По-друге, документовані випадки зазвичай ставляться до таких чатів, як IRC, де багато розмов уривчасті і безглузді. По-третє, багато користувачів IRC використовують англійську як другу чи третю мову, і безглузда відповідь програми, ймовірно, спишеться ними на мовний бар'єр. По-четверте, багато користувачів нічого не знають про Елізу та її подібні програми і не можуть розпізнати зовсім нелюдські помилки, яких ці програми припускаються.

Проти тесту Тьюринга було висунуто кілька заперечень:

1. Машина, що пройшла тест, може бути розумної, а слідувати якомусь хитрому набору правил. (Поширене контрзаперечення: звідки ми знаємо, що людина не слідує якомусь хитрому набору правил?)

2. Машина може бути розумною і не вміючи розмовляти, як людина

3. Деякі цілком розумні люди провалять цей тест (наприклад, маленькі діти чи неписьменні)

4. Якщо тест Тьюринга і перевіряє наявність розуму, він не перевіряє свідомість (consciousness) і свободу волі (intentionality), цим не вловлюючи важливих відмінностей між розумними людьми і розумними машинами.

Щорічно проводиться змагання між програмами, що розмовляють, і найбільш людиноподібною, на думку суддів, присуджується приз Лебнера (Loebner). Є додатковий приз для програми, яка, на думку суддів, пройде тест Т'юрінга. Цей приз ще не присуджувався.

Але це ще не все, ситуація заплутана ще сильніше. Якщо комп'ютер зможе читати будь-який текст і робити короткий огляд його, чи буде ця машина вважатися розумною? Так може запитати вчений, який займається штучним інтелектом, у критика. І критик, швидше за все, з впевненістю відповість позитивно. Але якщо йому показати таку програму, а потім, на своє лихо, дозволити подивитися на її текст, на те, як вона працює, та й взагалі, дати розібратися в ній як слід, то програмі інтелектуальності буде відмовлено. З цього приводу дуже добре сказав П. Уїнстон: «Бути інтелектуальним – отже, бути загадковим. Як він [Він – це якийсь безособовий суб'єкт, який виявив кмітливість] міг до цього дійти? – питаємо ми. Доки походження ідеї залишається незрозумілим, вона виглядає як одкровення, але як тільки на поверхню виходить її пояснення, ми дивуємося: "Як це я про це не подумав, адже це так очевидно!" Коли процес виявиться розділеним на частини, вивченим та зрозумілим, схоже, що інтелект зникає».

Поняття інтелекту видається невловимим. "Насправді, дати визначення, - резюмує свої міркування П. Уїнстон, - у звичайному сенсі цього слова, мабуть, неможливо". А Мічі і Джонсон помічають дуже дотепно: «За відсутністю більш точного визначення машинного інтелекту його можна охарактеризувати словами: "Точного визначення я не можу дати, але завжди зможу дізнатися, коли побачу"». Мені це визначення здається найбільш симпатичним, хоч і дещо комічним. Схоже, що нічого чіткішого і ясного все одно не передбачається. А для даного реферату визначення це підходить, як на мене, дуже добре.

На закінчення цього невеликого екскурсу в проблему штучного інтелекту, хочу зазначити, що слова «штучний інтелект», «механічний мозок», «машинний розум» вживаються зараз дуже часто, тому ми не помічаємо парадоксальність цих словосполучень. Дійсно, слово «машинний» означає щось механічне, несвідоме, мимовільне, що суворо повторюється. «Інтелект» означає щось оригінальне, творче, неформалізоване, непередбачуване, яке не підкоряється жодним правилам. Виходить, що в одному словосполученні злилися два протилежні за змістом поняття. "Холодне полум'я", "темне світло" - ось приклади подібних словосполучень. Їх зазвичай можна зустріти у поезії, художній літературі. Як взагалі може бути осмисленим визначення «штучний інтелект», якщо воно є, по суті, contradicto in adjecto (суперечність у визначенні)? Але розвивати цю тему ми не будемо.

Симптоми Сингулярності

Отже, у 60-ті – 80-ті роки ХХ століття усвідомлення того, що гряде якийсь катаклізм, зростало. Ймовірно, першими відчули його вплив письменники фантасти. Адже саме науковій фантастиці слід передбачати, чим обернеться та чи інша технологія в майбутньому. Якщо раніше уяву легко переносило на мільйони, мільярди років уперед (наприклад, «Машина часу» Герберта Уеллса), то тепер найбільше прогнозів відноситься до найближчого завтра. Невідомому завтра! Письменники винайшли безліч хитрощів для того, щоб не зв'язуватися з розумними машинами у своєму сюжеті. Так чи інакше їх роблять безпечними. Для мене найбільш бентежним ходом було наділення машин соліпсизмом у тому сенсі, що вони не вірять у реальність навколишнього світу, у події, що відбуваються з ними, тому легко підкоряються людині.

Машинний розум досі не створено. Критики машинного розуму часто заявляють, що штучним інтелектом займаються вже дуже давно, а його так і не отримано. Але, мабуть, така природа людини, що він любить забувати, що він хотів отримати спочатку. Так, багато завдань, які відносяться до штучного інтелекту, так чи інакше вже вирішені. Наприклад, завдання розпізнавання образів давно вже вийшло з галузі суто наукових досліджень. Існує кілька комерційних продуктів, які займаються розпізнаванням друкованого тексту (ABBYY FineReader), рукописного тексту (Paragon PenReader). Ці продукти з поставленими завданнями цілком справляються. Тільки от люди хочуть від них все більшого та більшого. Бажають не 90% якості розпізнавання, а 95%. Коли досягається цей рубіж, вони хочуть 99% тощо. І весь час незадоволені! Говорять, що все погано і неправильно, можна розпізнавати краще, людина розпізнає краще і т.п. Адже й люди не всякий текст можуть зрозуміти. Але з користувачами не посперечаєшся. Ось і виходить у результаті, що суспільство вважає, що завдання розпізнавання образів (текстів) не вирішено.

Є ще одна цікава подробиця. Коли на зорі розвитку комп'ютерів спроби побудови штучного інтелекту закінчилися нічим, весь напрямок втратив більшу частину привабливості, асигнування скоротилися, ентузіасти переповзли на програмування комп'ютерних супротивників в іграх та ін. Здавалося б, глухий кут. Якби не одне "але": іншого результату тоді чекати не слід. Потрібно лише уявити обчислювальну потужність комп'ютерів у лабораторіях штучного інтелекту Массачусетського технологічного інституту на той час. Вони були приблизно еквівалентні мозку комахи. І еквівалент інтелекту комахи було отримано! Потім скорочення асигнувань на дослідження ІІ не дозволило оновлювати комп'ютерний парк дослідників у темпі, адекватному можливостям технології. І тільки зараз, коли значно більші потужності стали доступні практично кожному, слід очікувати подальшого прогресу.

З часом ми спостерігатимемо все більше симптомів. Дилема, яку відчули фантасти, сприйматиметься у тих творчих зусиль іншого роду. Ми станемо свідками того, як поступово автоматизуватимуться завдання все більш високого рівня. Вже зараз є інструменти (програми символічної логіки, САПР), які звільняють нас від більшості нудної рутини. Є й зворотний бік медалі: істинно продуктивна праця стає долею вузької еліти людства, що стабільно скорочується. З настанням Сингулярності ми побачимо, як нарешті збуваються прогнози про справжнє техногенне безробіття.

А яким же буде настання самої Сингулярності? Що можна сказати про справжній характер цієї події? Оскільки справа стосується інтелектуального розгону, ймовірно, це виявиться найстрімкішою технічною революцією з усіх, перш за все, нам відомих. Чекати на це не буде ніхто, навіть ті вчені, які залучені до творчого процесу. "Але всі наші попередні моделі не рухалися! Ми тільки підкрутили деякі налаштування ...", - приблизно такі думки і слова здивування, можна очікувати від них.

Через кілька місяців після цієї події настане щось, чому автор статті наводить лише схожу за значимістю явища аналогію – виникнення людства. Ми опинимося в постлюдській ері. І, незважаючи на технічний оптимізм, автор заявляє, що йому було б набагато комфортніше, якби від цих надприродних подій відокремлювала тисяча років, а не двадцять.

Ймовірно, це найслабше місце в ідеї того, що штучний інтелект може виникнути в тому вигляді, що замінить природний. Виходить, що чіткого уявлення про те, як взагалі може статися такий якісний стрибок від тих інструментів, які може надати ІІ (див. вище завдання ІІ), до чогось, здатного до творчості та конкуренції з людиною, Віндж не має. Хоча, можливо, ці міркування він не став викладати у статті, або ж я не зміг їх розпізнати. Проте кінематографісти та письменники тему цю не кидають. А значить, зачіпає вона людей.

Шляхи до Сингулярності та від неї

Віндж не претендує на те, що Сингулярність настане обов'язково. Згадуються популярні та визнані аргументи Пенроуза та Серла про непрактичність машинного розуму. А в 1992 році співтовариство «Мислячих Машин» влаштувало мозковий штурм, метою якого було перевірити тезу: «Як побудувати машину, що мислить» Т.е. учасники в повному обсязі розділяли докази проти машинного розуму. Ухвалювалася загальна домовленість, що розум може існувати не тільки на біологічній основі, а алгоритми є найважливішими складовими розуму. Виділилося кілька груп, кожна яка дотримується певної думки. Так була меншість, яка вважала, що найпотужніші комп'ютери 1992 по потужності відстають на три порядки від людського мозку. Була більшість, яка погоджувалась з підрахунками Ганса Моравця, які показували, що нам знадобиться десять-сорок років і апаратура зрівняється з людьми. Була ще одна меншість, яка вважала, що загальноприйняті оцінки обчислювальної потужності окремих нейронів занижені, а отже наші сучасні комп'ютери відстають на десять порядків від того пристрою, що знаходиться в людському черепі. Тоді, як каже Віндж, можливо, ми ніколи так і не доживемо до Сингулярності, а натомість побачимо, що криві продуктивності нашого апаратного забезпечення почнуть згладжуватися через нашу нездатність автоматизувати конструкторську роботу з розробки подальших удосконалень апаратних засобів. Все скінчиться якимось дуже потужним комп'ютером, але без можливості рухатися вперед. Комерційна цифрова обробка сигналів буде чудова, забезпечуючи аналоговий вихід, який можна порівняти з цифровими операціями, але "свідомість" не прокинеться, а інтелектуальний розгін, що являє собою саму суть Сингулярності, так і почнеться. Такий стан речей, ймовірно, слід розглядати як Золоте століття... і кінець прогресу.

Через десять років Віндж додав ще один аргумент проти ймовірності технологічної Сингулярності: навіть якщо ми зуміємо створити комп'ютери з необхідною апаратною потужністю, може і не вдасться організувати наявні компоненти таким чином, щоб машина знайшла надлюдський розум. Просто складність програмного забезпечення зросте настільки, що не буде жодної можливості з ним упоратися. Будуть намагатися запустити все більші проекти з розробки ПЗ, але програмування не впорається із завданням і ми не отримаємо необхідних рішень біологічних моделей, які б допомогти реалізувати навчання та «ембріональний розвиток» машин. Віндж навіть наводить такий контрапункт до закону Мерфі: «Максимально можлива ефективність програмної системи зростає пропорційно до логарифму ефективності (тобто швидкості, смуги пропускання, обсягу пам'яті) програмного забезпечення, що підлягає». І це жахливо. Це означає величезну кількість програм, корисність яких мала, а кількість все зростає і зростає.

Проте, якщо технологічної Сингулярності судилося бути, вона обов'язково трапиться. Тобто. в принципі неможливо якось законодавчо чи ще будь-яким способом заборонити її. Навіть якщо всі держави світу усвідомлюють у ній загрозу та налякаються до смерті, прогрес не зупиниться. Конкурентна перевага будь-якого досягнення в засобах автоматизації є настільки непереборною, що заборона подібних технологій просто гарантує, що хтось інший освоїть їх першим.

Ерік Дрекслер склав вражаючі прогнози розвитку та вдосконалення технічних засобів. Він погоджується з тим, що поява надлюдського розуму стане можливою в найближчому майбутньому. Але Дрекслер стверджує, що людство здатне утримувати контроль над такими надлюдськими пристроями, щоб результати їх роботи можна було оцінити і надійно використовувати.

Віндж, навпаки, вважає, що контроль зберегти неможливо. Як уявного експерименту, він пропонує уявити себе замкненим у власному будинку з єдиним каналом доступу інформації, який обмежений деякими господарями. Якби господарі мислили зі швидкістю в мільйон разів меншою, ніж Ви, то, безперечно, через кілька років Вашого часу, Ви винайшли б спосіб втечі. Віндж називає цю швидко мислячу форму надрозуму «слабким надлюдським». Така сутність дуже прискорила б протягом часу еквівалентного людського розуму. Що собою представлятиме «сильне надлюдське», сказати важко. Але відмінності будуть разючі. І тут постає питання про користь такого розуму для людини. Як приклад, можна уявити собі собаку з роботою думки, що багаторазово прискорилася. Тисячолітній досвід собачого мислення, що може дати людству? Взагалі, виходить, що дуже багато припущень про надрозум робляться виходячи з моделі «слабкого надлюдського». Віндж вважає, що найбільш вірні здогади про постсингулярний світ можна робити на припущеннях про влаштування «сильного надлюдського».

Другим підходом до вирішення проблеми контролю є ідея створення жорстко заданих обмежень свободи дії надлюдських сутностей. Яскравий приклад – Закони робототехніки Азімова. (Цікаво, що формулювання законів запатентовані самим Азімовим, і ніхто, крім нього, не може їх цитувати дослівно. Цікаво, навіщо він це зробив?) Проте, навіть у оповіданнях Азімова була порушена основна проблема таких обмежень. Всі вони призводять до звуження можливостей пристроїв у порівнянні з пристроями без обмежень. Отже, конкуренція сприятиме розвитку менш обмежених, отже, небезпечніших моделей.

Наслідки сингулярності. Постлюдська ера

Отже, якщо Сингулярність не можна запобігти, не можна обмежити, то якою буде постлюдська ера, наскільки жорстокою? Один із можливих наслідків – фізичне вимирання людства. Наприклад, Ерік Дрекслер, говорячи про нанотехнології, сказав, що з усіма подібними технічними можливостями уряди, ймовірно, вирішать, що прості громадяни їм нема до чого. Однак, фізичне вимирання – не найстрашніше, що може статися. Достатньо згадати братів наших менших тварин – і ставлення до них. У постлюдську епоху знайдеться досить ніш, де людина буде затребуваний, отже, збережений, як вид. З цього приводу Вернон Віндж переформулює золоте метаправило: «Поводься з меншими братами так, як ти хочеш, щоб старші брати поводилися з тобою». Наслідки використання цього правила, розраховані згідно з теорією гри, в якомусь сенсі свідчать про те, що, якби ми могли дотримуватися цього правила, то це могло б говорити про поширеність подібних добрих намірів взагалі у всесвіті.

Віндж нагадує, що, незважаючи на те, що запобігти Сингулярності ми не можемо, але ініціатором все ж таки виступає людина. А значить, у нашій владі змінювати початкові умови цього некерованого процесу, щоб усе відбувалося з мінімальними для нас збитками. Чи буде користь від передбачення та планування? Залежить від того, чи буде перехід до Сингулярності різким чи тихим. Різкий перехід - це той, при якому зсув до надлюдського контролю відбудеться за кілька сотень годин. Спланувати такий перехід важко. Тихий перехід може зайняти десятки років, можливо, більше століття. У такій ситуації планування можливе, можна вдумливо експериментувати.

Сингулярність без Штучного Інтелекту

Найчастіше коли говорять про істоти з надлюдським розумом, то мають на увазі проект зі створення штучного інтелекту. Однак, на початку статті Віндж відзначив і інші шляхи до надлюдського. Так комп'ютерні мережі та людино-машинні інтерфейси, хоч і здаються більш приземленими, можуть призвести до Сингулярності. Віндж називає такий суперечливий підхід Посиленням Інтелекту (УІ). Посилення Інтелекту протікає природно, не усвідомлюють навіть розробники. Однак щоразу, коли покращуються наші можливості доступу до інформації та передачі її іншим, у певному сенсі ми досягаємо приросту до природного інтелекту. Дует знаючої, мислячої людини і простої робочої станції здатний, мабуть, скласти будь-який письмовий тест.

Цілком можливо, що УІ є найлегшим шляхом для досягнення надлюдського, ніж ІІ в чистому вигляді. Щодо людей, найскладніші проблеми розвитку вже вирішені. Поступове створення розумних систем на основі наявних у людини здібностей видається легшим, ніж з'ясування істинної суті людей і потім уже спорудження аналогічних інтелектуальних машин. Імовірно, існує ще принаймні один прецедент на підтримку цієї точки зору. Кернс-Сміт міркував про те, що біологічне життя цілком могло зародитися як випадкова додаткова властивість більш примітивних форм життя, що ґрунтувалися на зростанні кристалів. Лінн Маргуліс висувала серйозні аргументи, доводячи, що симбіоз є могутньою рушійною силою еволюції.

Віндж не пропонує ігнорувати роботи зі створення ІІ. Він вважає, що досягнення в області розробки ІІ будуть знаходити застосування в УІ, і навпаки. Автор пропонує зрозуміти, що у роботах зі створення мереж та інтерфейсів криється таке ж серйозне та потенційно дике-чуже, як і штучний інтелект.

1. Автоматизація людино-машинної зв'язки.Тут розглядаються проблеми, які зазвичай відводяться для вирішення машин (на кшталт завдань за методом ітеративного спуску - hillclimbing), та програми розробки та інтерфейси, що використовують перевагу людської інтуїції з доступним комп'ютерним обладнанням. З огляду на химерність завдань з високихclimbing більш високого порядку (і струнких алгоритмів, придуманих для їх вирішення), для людського компонента зв'язки можна розробити надзвичайно цікаві дисплеї та засоби управління.

2. Симбіоз машини та людини в мистецтві.Тут мають на увазі поєднання графічних можливостей сучасних машин та естетичної чуйності людей. Звісно, ​​величезні зусилля дослідників витрачаються розробки комп'ютерних засобів допомоги художникам. Віндж пропонує чітко націлитись на найбільше поєднання умінь, максимально можливу кооперацію.

3. Людсько-машинні команди на шахових турнірах.Зараз уже є програми, які грають у шахи краще за переважну більшість людей. Але скільки зроблено, для того щоб цю міць могла використовувати людина, для того, щоб досягти якихось ще більших успіхів? Якби таким командам дозволялося брати участь хоча б у деяких шахових турнірах, це могло б вплинути на дослідження УІ, яке допуск комп'ютерів до шахових змагань надає на відповідну нішу розробок ІІ. В останні кілька років гросмейстер Гаррі Каспаров розвинув ідею проведення шахових турнірів між гравцями, яким допомагають комп'ютери (прогресивні шахи).

4. Інтерфейси, які забезпечать доступ до комп'ютерів та мереж без обов'язкової прив'язки людини до одного місця за столом з монітором. Цей аспект УІ настільки успішно узгоджується з відомими економічними перевагами, що у цьому напрямі вже працюють дуже активно.

5. Більш симетричні системи підтримки рішення.Популярною областю досліджень та розробок останнім часом стали системи підтримки рішення. Це одна із форм УІ, тільки, можливо, надто сфокусована на прогностичних системах. Стільки ж, скільки програма надає інформації користувачеві, має бути і керівництво програмою з боку користувача.

6. Місцеві мережі, які зроблять зусилля групи людей ефективнішими за роботу окремих членів. Це і є, в принципі, поняття про groupware; зміна підходу у питанні полягає у поданні груповий діяльності як роботи колективного організму. У певному сенсі мета такої пропозиції може полягати у винаході "Статуту" для таких комбінованих операцій. Наприклад, напрямок діяльності групи легше було б підтримувати, ніж за допомогою класичних зборів. Вміння окремих індивідуумів можна буде ізолювати від егоїстичних устремлінь, щоб об'єднані зусилля різних членів групи концентрувалися на спільному проекті. Ну і, звичайно, бази даних спільного користування можна було б задіяти повніше, ніж у звичайних дорадчих операціях.

7. Інтернет є комбінованим людино-машинним інструментом.З усього перерахованого у цьому списку прогрес у цій галузі йде найшвидшими темпами. Сила та вплив Інтернету чималою мірою недооцінюють. Сама собою анархічність розвитку Всесвітньої мережі є свідченням її потенціалу. Поки нарощуються зв'язність, смуга пропускання, архівні обсяги та продуктивність комп'ютерів, ми спостерігаємо щось схоже на уявлення Лінн Маргуліс про біосферу, як свого роду конспект процесора даних, тільки з продуктивністю в мільйон разів більшою і з мільйонами розумних людських агентів (нас самих).

Наведені вище приклади ілюструють дослідження, яке можна провести у межах сучасних галузей комп'ютерної науки. Існують та інші парадигми. Наприклад, багато робіт зі створення штучного інтелекту та нейромереж лише виграють від більш тісного зв'язку з біологічним життям. Замість того щоб просто намагатися моделювати і відтворювати біологічне життя за допомогою комп'ютерів, дослідження слід направити на створення композитних систем, що покладаються на управління з боку біологічного життя, або заради якихось властивостей біологічного життя, які ми недостатньо розуміємо, але прагнемо відтворити в апаратному забезпеченні. Вікною мрією наукової фантастики є прямі комп'ютерно-мозкові інтерфейси. На практиці в цій галузі ведуться конкретні роботи:

1. Протезування кінцівокє область прямого комерційного додатку. Прямі нейро-кремнієві перетворювачі можна створити. Це чудово досягається перший крок до налагодження прямого людино-машинного зв'язку.

2. Прямі канали зв'язку з мозкомздаються цілком здійсненними, якщо бітрейт досить низький: враховуючи розвинену освіту людини, навряд чи потрібно точно вибирати мішені серед нейронів живого мозку. Навіть 100 біт на секунду будуть надзвичайно корисні постраждалим від паралічу, яким, інакше, доведеться залишатися в заручниках в інтерфейсів, побудованих на структурованих меню. Тут можна згадати вченого Хоукінга, який зараз паралізований і вся його дія на навколишній світ зводиться до рухів його єдиного рухомого пальця руки.

3. Під'єднання до оптичної магістраліобіцяє потенціал величезної пропускної спроможності. Але для цього нам потрібно розібратися в найтоншому пристрої зору, та ще потрібно вживлення великої кількості електродів з надзвичайною точністю. Якщо ми хочемо, щоб широкосмугове з'єднання додало ще можливостей до тих здібностей з обробки даних, що вже є в людському мозку, проблема стає набагато більш неподатливою. Експерименти у цій галузі ведуться. Так нещодавно в періодичних виданнях, присвячених хайтеку, з'явилися новини про те, що підключення цифрової камери до зорового нерва вже вдається, а продаж таки пристрої надійдуть орієнтовно в 2008–10 роках.

4. Експерименти із зародками тварин.Забезпечення мозку, що розвивається, доступу до складних симульованих нейроструктур могло б, зрештою, призвести до появи тварин з додатковими нервовими зв'язками та цікавими інтелектуальними здібностями. Так було повідомлення про те, що намагаються отримати мишу із мозком людини. Такий заголовок дуже добре виглядав би на першій сторінці якогось жовтого видання, але схоже, що це справді так. Звичайно, миша з людським мозком, навряд чи сама по собі буде корисною, але ось зворотне… Якщо вдасться використовувати нервові клітини тварин для заміни людських, це щонайменше може допомогти вилікувати багато недуг. Вплив таких досліджень безперечно великий.

На жаль, і на шляху до Сингулярності через Посилення Інтелекту Віндж також не бачить повної безпеки. УІ для людських індивідуумів створює досить зловісну еліту. У нас, людей, за плечима мільйони років еволюційного розвитку, які змушують нас представляти суперництво у похмурому світлі. Здебільшого, ця похмурість може виявитися незатребуваною в сьогоднішньому світі, в якому переможці, які програли, переймають прийоми переможців і, згуртувавшись, організують виграшні підприємства. Істота, створена "з чистого аркуша", може виявитися набагато благонамірнішою, ніж тварюка, вирощена за законами ікла і кігтя.

Проблема полягає не просто в тому, що Сингулярність є відходом людства зі сцени, але в тому, що вона суперечить нашим потаємним поняттям буття. Тому далі Віндж розглядає уважніше концепцію сильного надлюдського, намагаючись прояснити причини такого стану речей.

Сильне надлюдське та найкраще, на що можуть розраховувати люди

Якщо припустити, що нам, людям, вдасться спланувати Сингулярність, вдасться втілити найбожевільніші мрії. Що ж… Для змін, що не зазнали, буде запропоновано м'яке звернення, можливе надання їм статусу господарів богоподібних слуг. Можливо, настане золотий вік, причому не позбавлений прогресу. Безсмертя чи надзвичайно довге життя стануть досяжними.

Чудовий, добрий світ. Але філософські проблеми, що піднімаються в цьому світі, стають воістину жахливими. Якщо розум замкнутий у межах, він, через кілька тисяч років, нагадуватиме закольцованную плівку, ніж особистість – тобто. безсмертя у разі жахливо. Щоб жити необмежено довго, сам розум має зростати. Ну і які ж споріднені почуття він відчуватиме до того, чим він був спочатку, коли він розростеться до величезних розмірів і озирнеться в минуле?

Поняття самосвідомості та его є основним поняттям у раціоналізмі останніх кількох століть. Однак самосвідомість, як концепція, піддається нападкам з боку прихильників ІІ. УІ вибиває ґрунт з-під концепції его з іншого боку. Вже зараз швидкості обміну інформацією загальнодоступних мережах досить великі. Постсингулярний світ передбачає наявність потужніших каналів зв'язку. Якщо його можна буде копіювати, об'єднувати, а обсяг самосвідомості зможе збільшуватися чи зменшуватися залежно від масштабів розв'язуваних завдань, підлаштовуючись під них, що відбудеться? Звучить така побудова дико, незвично, але це і є суттєві риси сильної надлюдської та самої Сингулярності. Саме це Віндж наводить як підтвердження чужості постлюдської ери, незалежно від того, наскільки продумано, сплановано, милосердно ми до неї підійдемо.

З одного боку, картина описує багато людських мрій про щастя: нескінченне життя, в якому ми вміємо по-справжньому розуміти один одного і пізнаємо найтаємніші таємниці буття. З іншого боку, це нагадує найгірший сценарій розвитку подій, описаний Вінджем на самому початку статті.

Яка ж думка обґрунтована? Віндж вважає, що нова ера буде настільки іншою, що не зможе вписуватися в класичні рамки протиставлення добра та зла. Постсингулярний світ чудово вписується у більш значну традицію еволюції та колективності, що зародилася давним-давно (можливо, ще до появи біологічного життя).

Закінчує Вернон Віндж свою статтю словами Фрімена Дайсона: "Бог - це розум, що переріс межі нашого розуміння".

Список літератури: