Първата част от този преглед в две части обяснява как нов документален филм разкрива заплахите от бума на изкуствения интелект
Пълнометражният документален филм „Призрак в машината“ насочва вниманието към опасностите от неконтролирания изкуствен интелект (ИИ), но освен критиката си към трансхуманизма на ИИ погрешно разпознава движещите сили зад неудържимото му развитие.
Ето какво филмът прави добре. Той разкрива огромните правомощия, които най-безцеремонните застъпници на ИИ – популярно наричани Големите технологични компании – високомерно присвояват. Представя ги като трансхуманисти, които искат развитието на ИИ да се ускори, а не да се забави. Потвърждава опасенията на скептиците, че експанзията на ИИ носи безпрецедентни, вероятно екзистенциални заплахи за човечеството.
В осем действия, които тя нарича глави, сценаристът и режисьор Валери Вийч поставя под въпрос предполагаемия ефективен алтруизъм на компании като DeepMind, Microsoft, Amazon и Meta. Сред по-убедителните ѝ събеседници са Мофат Окини и Ричард Матенге от Techworker Community Africa (TCA), които подкрепят уязвимите африкански работници с данни, обслужващи глобалния ИИ.
Вийч използва надпис „Не е ИИ“, за да обозначава автентични кадри, като предупреждава, че ще става все по-невъзможно да се различи потвърденото от симулираното.
Заглавието на филма произлиза от дебатите за разграничението между ума или душата и тялото. Картезианският дуализъм на философа Рене Декарт отстояваше това разграничение. Но философът Гилбърт Райл възрази, че то би превърнало ума в обикновен „призрак в машината“, безпомощен да оживотворява тялото. Ръководителите на Големите технологични компании приеха присърце тезата на Райл.
Превъзходните способности на машините отдавна са предмет на науката, а не само на научната фантастика. И все пак претенцията на ИИ винаги е била да надмине човешкия интелект, а не просто да го изравни.
Името на компанията за ИИ Anthropic може да е подвеждащо; то е игра на думи, която внушава, че компанията е в полза на човечеството. Въпреки това човек трудно може да се отърси от усещането, че лидерите на Големите технологични компании са социопати, ако не и откровени мизантропи. Ако толкова шумно предупреждават за неконтролирания ИИ, защо толкова неуморно се стремят към AGI (общ изкуствен интелект) или ASI (изкуствен свръхинтелект)?
Прозорливо К. С. Луис предупреди за трансхуманистичните „обусловители“, които ще донесат дистопия, прикрита като утопия. Затова обществото не бива повече да търпи моралното чревоговорене на Големите технологични компании.
Когнитивният учен Абеба Бирхане предупреждава не само срещу приписването на уникално човешки качества – мислене и съзнание – на машините, но и срещу определянето на човешкото познание „в машинни термини“.
Тя е права. Не бива да оприличаваме човешкия мозък на машина. Машините са изобретени от сътворена материя; мозъците, както всичко човешко, са сътворени от нищото.
Смъртоносен скок
ИИ може да се окаже толкова безобиден, колкото предишните технологични скокове. Но AGI и ASI ще бъдат по-смъртоносни от всеки предходен скок, като необратимо обезчовечат и разделят света.
Луис е прав. Безразсъдната надпревара към всичко свръхчовешко ни прави подчовеци, а не по-човечни.
Сам Алтман от OpenAI изглежда най-ненадеждният сред лидерите на Големите технологични компании. Достатъчно е да се разгледат отговорите му, когато го притискат по въпроса за залозите. Какво ще направи, ако получи неограничена изчислителна мощност, която засега е само блян? Ще накара ИИ да създава по-добри модели, след което ще ги попита какво да прави с тази мощност. Как ще генерира впечатляващата възвръщаемост, която акционерите очакват, след като са инвестирали толкова много и толкова сляпо? След като AGI бъде създаден, ще поиска съвета му. Как да се разграничи реалното от нереалното? Той се пита дали след определен момент това изобщо ще има значение.
Лидерите на Големите технологични компании са като възрастни, когато изпробват границите на възможното, но като юноши, когато в решаващи моменти се питат дали изобщо трябва да го правят. Цената ще платят хората.
Глава 6 разкрива кражбата на данни и експлоатацията в Африка, Азия и Латинска Америка. Глава 7 обръща внимание на тревожната скорост, с която се изграждат огромни центрове за данни, поглъщащи вода и енергия, повечето от които са в САЩ. Обезпокоително е, че правителствата и военните изглеждат прекалено подвластни на мощта на ИИ. В стремежа си да я използват за собствените си цели те дават на Големите технологични компании прекомерно влияние върху финансовите, човешките и природните ресурси.
Те не контролират достатъчно строго изграждането на центрове за данни с размерите на градове, експлоатацията на бедните и безработните, както и събирането на данни, което не е нито прозрачно, нито безвредно.
Безопасност
Затворен кръг не позволява на изследователите в областта на „безопасността на ИИ“ да оспорват неконтролирания ИИ. Финансирани от Големите технологични компании, дори онези, чиято задача е да предотвратят излизането на AGI или ASI извън контрол, вероятно ще подхранват бума на ИИ, а не ще го ограничават.
Въпреки всички предупреждения филмът завършва с надежда. Хората имат право на избор. Не сме нито безпомощни, нито без надежда. Ако сме сгрешили, можем да си върнем контрола върху посоката и темпото на развитието на ИИ, така че той да служи на човечеството, а не обратното. Лидерите на Големите технологични компании могат да усъвършенстват човешкото учене, особено там, където скоростта и мащабът могат да имат значение – при решаването на трудни проблеми в науката, образованието и здравеопазването.
Но те трябва да продължат да задават правилните човешки въпроси: Нанася ли това повече вреда? Можем ли да предотвратим вредата, вместо да търсим лечение след това?
Част 2 обяснява как този документален филм погрешно разпознава повечето от движещите сили зад неконтролирания ИИ.
Можете да гледате „Призрак в машината“ в Kanopy и Prime Video.
„Призрак в машината“
Документален филм
Режисьор: Валери Вийч
Продължителност: 1 час и 50 минути
Дата на излизане: 14 септември 2026 г.
Оценка: 3 от 5 звезди
