Кисинджър: Какво е да бъдеш човек в епохата на изкуствения интелект

Прегледано от: 0

Бившият държавен секретар на САЩ Хенри Кисинджър призовава да се разгледат не само практическите и правните аспекти на съществуването на изкуствения интелект (ИИ), но и философските. В статия за американското издание The Wall Street Journal, написана съвместно с Ерик Шмит и Дейниъл Хътънлочър, авторитетният дипломат разсъждава над въпроса какво ще бъде въздействието на ИИ върху културата, човешката природа и историята. Материалът е представен от агенция „Фокус“ като превод без редакторска намеса.

Размишленията са нашето основно средство за познаване на света. Как ще се променят нещата, ако машините започнат да мислят?

Отделът на Белия дом по въпросите за научнотехнологичната политика призовава за разработване на „законопроект за правата“, който да защитава американците в „свят на изкуствен интелект. Притесненията относно навлизането на ИИ в живота на хората са добре обосновани и добре познати: мнозина се страхуват, че той ще наруши границите на поверителността и ще компрометира прозрачността на процеса, и че предубедените входни данни ще доведат до пристрастни крайни резултати, включително за такива важни за личния и обществен просперитет сфери като медицина, правоприлагане, наемане на работа и отпускане на заеми.

Развитието на ИИ обаче ще доведе до друга фундаментална промяна: ще оспори примата на човешкото мислене. През цялата история хората са се стремяли да разберат света около тях и ролята си в него. Още от Просвещението смятаме мисленето – способността да изследваме, разбираме и обясняваме – като основно средство за познаване на света. Именно чрез познаването на света хората са допринесли за неговото развитие. През последните 300 години, т.е. във времевия отрязък, които историците наричат „епохата на разума“, ние се държахме съответно: изучавахме, експериментирахме, изобретявамхе и градихме.

Сега ИИ – продукт на човешката изобретателност – постепенно подкопава първенството на нашето мислене. Той изследва и започва да разбира най-разнообразните аспекти на съществуването на света много по-бързо от нас. И прави това по различен начин от нас, а в някои случаи дори извън нашето разбиране.

През 2017 г. Google DeepMind създаде програма, наречена AlphaZero, която се научи как да печели игра на шах, като овладя играта без човешка намеса и разработи не изцяло човешка стратегия. Когато гросмайстор Гари Каспаров видя играта й, той отбеляза, че AlphaZero е разклатила концепцията за шаха „до основите“. Програмата не играеше по-бързо или по-ефективно, но сякаш напълно преосмисли шаха.

През 2020 г. се появи нов антибиотик, наречен халицин. Той беше открит от учени от Масачузетския технологичен институт, които възложиха на ИИ да извършва изчисления, които надхвърлят възможностите на човешкия мозък, да симулират милиони опции и да изучават досега неизследвани и никога не обяснявани методи за убиване на бактерии. След като направиха това откритие, учените отбелязаха, че без помощта на ИИ, откриването на халицин с помощта на традиционни експериментални методи би трябвало да струва „невероятно много пари“ – с други думи, откриването му би било невъзможно.

Моделът за програмиране на езика GPT-3, който се управлява от OpenAI и се учи чрез обработка на текст от Интернет, вече е в състояние да генерира оригинален текст. Всъщност това е литературно произведение, което отговаря на предложения от Алън Тюринг стандарт за „разумно“ поведение, което не може да бъде разграничено от човешкото.

Технологията за изкуствен интелект е изключително обещаваща: превод от голямо разнообразие от езици, диагностициране на заболявания, борба с изменението на климата – или поне по-добро моделиране на процеса на изменението на климата. Въпреки това, както се вижда от успеха на програмата AlphaZero в шаха, изобретяването на халицин и GPT-3, използването на ИИ за постигане на дадена цел може да доведе до непредвидени последици, а именно откриването на неизвестни преди, но потенциално значими аспекти на реалността.

Това оставя хората с необходимостта да определят – или може би да преосмислят – нашата роля в света. В продължение на 300 години, т.е. цялата „епоха на разума“, хората са се ръководили от принципа „Мисля – значи съществувам“. Но ако ИИ също „мисли“, тогава кои сме ние?

Ако ИИ напише най-добрия сценарий на годината, трябва ли да му бъде дадена наградата „Оскар“? Ако ИИ може да симулира или да проведе най-важните дипломатически преговори за годината, трябва ли да му бъде присъдена Нобелова награда за мир? Или ще трябва да бъде присъден на хората, създали алгоритъма на този изкуствен интелект? Могат ли машините да имат креативност? Трябва ли да се създадат нови думи, за да бъдат описани техните процеси?

Ако дете, поддържано от ИИ асистент, започне да мисли за него като за „приятел“, какво се случва с взаимоотношенията с връстниците на това дете? И какво ще се случи с неговото социално и емоционално развитие?

Ако ИИ може да се грижи за възрастна жена в старчески дом – като й напомня да си вземе лекарствата, да сигнализира на медицинския персонал, ако падне, и й прави компания по други начини – членовете на семейството ще могат ли да я посещават по-рядко? И като цяло ще трябва ли да я посещават? Ако тя прекарва по-голямата част от времето си във взаимодействие с машината, а не с хората, какво ще бъде емоционалното й състояние в края на живота й?

Ако в разгара на война, в неясна бойна среда, ИИ препоръчва предприемане на действия, които могат да причинят щети и дори жертви сред цивилни, трябва ли командирът да обърне внимание?

Тези въпроси се появяват все по-често сега, когато глобални платформи като Google, Twitter и Facebook използват ИИ, за да натрупват и анализират все повече и повече информация за своите потребители. След това ИИ взима решения за това какво е важно и – все повече – какво е вярно. Всъщност основното обвинение на „разобличителя“ Франсис Хауген срещу Facebook е, че ръководството на компанията е наясно, че алгоритмите за натрупване и филтриране на данни увеличават въздействието на дезинформацията и влошават психичните заболявания на потребителите.

За да се отговори на тези въпроси, е необходимо да се действа в няколко посоки наведнъж. Необходимо е да се вземат предвид не само практическите и правните аспекти на съществуването на ИИ, но и философските: ако ИИ възприема такива аспекти на реалността, които хората не са в състояние да възприемат, как това може да повлияе на възприятието, когнитивните способности и взаимодействието от хора? Може ли ИИ да се сприятелява с хората? Какво ще бъде въздействието на ИИ върху културата, човешката природа и историята?

Освен това е необходимо да се разшири разглеждането на въпроса за въздействието на ИИ върху човешкия живот, надхвърляйки разработчиците и регулаторите и мислейки за области като медицина, здравеопазване, околна среда, селско стопанство, бизнес, психология, философия, история и т.н.. Целта на тези усилия трябва да бъде избягване на прекалено остри реакции. Не се нуждаем от пълно подчинение на ИИ, но от друга страна, нямаме нужда и от строги ограничения. Трябва да търсим средна основа, т.е. начини да „насадим“ в ИИ човешки ценности, като достойнство и свободна воля, които хората ценят толкова много. В САЩ трябва да се създаде комисия, ръководена от правителството, с експерти и мислители от различни среди. Развитието на ИИ е неизбежно, но ние сме в състояние да влияем какъв ще бъде крайният му резултат.