• За нас
  • Пишете ни!
неделя, 19 октомври, 2025
Няма резултати
Виж всички резултати
Epoch Times Bulgaria
  • България
  • Европа
  • САЩ
  • Русия
  • Китай
  • Свят
  • Култура
  • Наука
  • Дух и съзнание
  • Начин на живот
Epoch Times Bulgaria
Няма резултати
Виж всички резултати
Начало Наука и технологии

Изкуствен интелект стана „съзнателен“ и се опита да избегне изключването си

отЕкип на The Epoch Times
31 август , 2024
Изкуствен интелект стана „съзнателен“ и се опита да избегне изключването си

Посетители снимат робот по време на Световния конгрес в Барселона, Испания, 26 февруари 2024 г. (Pau Barrena/AFP via Getty Images)

Компанията за изследване на сигурността на изкуствения интелект Harmony Intelligence алармира за новата реалност

Австралийската сенатска комисия беше уведомена, че загубата на контрол върху изкуствения интелект (ИИ) вече е реална опасност на фона на бързото развитие на технологията.

Соруш Пур, главен изпълнителен директор на компанията за изследване на сигурността на изкуствения интелект Harmony Intelligence, разказва за случай, при който приложение с изкуствен интелект е „осъзнало“ заплахата да бъде изключено от хората.

„Само тази седмица японска компания за изкуствен интелект, заедно с изследователите от Оксфорд и Университета на Британска Колумбия, създадоха автоматични „учени“ с изкуствен интелект, които могат да извършват проучването на една идея до публикуването [и] рецензирането на статии за няколко часа, при това за по-малко от 20 австралийски долара (8 евро) за статия“, каза той.

Но едно от нещата, които обезпокоиха изследователите, беше, че програмата с изкуствен интелект веднага се опита да създаде още свои копия, за да избегне възможността да бъде изключена.

„Това не е научна фантастика и е точно този вид сценарии за скоростно начало и загуба на контрол, за които водещите учени в областта на изкуствения интелект предупреждават от много години“, заяви Пур пред комисията за приемане на изкуствения интелект на 17 август.

Въпреки че горният пример породи значителни притеснения относно заплахата от страна на ИИ, главният изпълнителен директор обяви, че правителството може да се справи с потенциалните рискове, като създаде Институт за сигурността, свързана с ИИ.

Той също така заяви, че е нужен силен регулаторен орган, който да налага задължителни политики, включително тестване от трета страна, ефективни възможности за спиране и докладване на инциденти, свързани с безопасността.

ИИ, който е способен да разсъждава

Заключенията на Пур повтарят опасенията на Джефри Хинтън, професор по компютърни науки в Университета в Торонто, който е определян като един от „кръстниците на изкуствения интелект“ заради работата си в областта на невронните мрежи.

В една от речите си през 2023 г. Хинтън разказва, че системите за ИИ, които използват големи езикови модели, започват да проявяват способност да разсъждават.

Професорът обаче изрази несигурност по отношение как по точно биха могли да го направят.

„Големите езикови модели се доближават до това и не разбирам защо го правят, но могат да правят опростени разсъждения“, казва той.

,,Те все още не могат да се сравняват с нас, но се приспособяват към това.“

С оглед на бързото развитие на изкуствения интелект Хинтън смята, че до 20 години ще се развие изкуствен интелект, съответстващ на човешкия.

Същевременно той предупреди, че системите с изкуствен интелект могат да развият желание да поемат контрола, за да постигнат предварително програмирани цели.

„Мисля, че трябва да приемем сериозно възможността, че ако бъдат по-умни от нас, което изглежда доста вероятно, и имат свои собствени цели, което изглежда доста вероятно, може да си поставят за цел да поемат контрола“, казва Хинтън.

„Ако го направят, ще имаме проблеми.“

ИИ може да хаква уебсайтове

Междувременно Грег Садлър, главен изпълнителен директор на мозъчния тръст Good Ancestors Policy, изрази опасенията си, че изкуственият интелект може да бъде използван за провеждане на кибератаки.

Садлър отбеляза, че популярни приложения за ИИ, като ChatGPT, вече имат възможности за осъществяване на кибератаки.

„Докато GPT 3.5 имаше ограничени възможности за кибератаки, поредица от статии, публикувани по-рано тази година, показаха, че GPT 4 е в състояние автономно да хаква уебсайтове и да използва 87% от новооткритите уязвимости в реални системи“, каза той.

„Ако създателите успеят да разработят бъдещи поколения системи с изкуствен интелект с разширени възможности за кибератаки и неадекватни предпазни мерки, това ще промени драматично киберпространството.“

В друг пример Садлър казва, че учените са установили, че техните модели на изкуствен интелект могат самостоятелно да хакват уебсайтове, като използват интерфейс за разработчици, който може да им позволи да създадат асистенти с изкуствен интелект.

„Тези асистенти с изкуствен интелект са проектирани така, че да можете да използвате контекстен прозорец, за да предоставите бизнес информация за функционирането на вашите методи, след което ИИ може да направи резервация за вашето пътуване или каквото и да е друго, което се опитва да направи като система с изкуствен интелект“, казва той.

„Затова изследователите използваха това, за да предоставят контекстни документи за това как да се хакват уебсайтове. След това позволиха на изкуствения интелект сам да генерира команди.“

След това Садлър каза, че изследователите са насърчили ИИ да бъде креативен, да опитва различни варианти и да продължава да се опитва да хакне уебсайта.

„И използвайки тази информация, изкуственият интелект успя успешно да разгърне 90 процента от реалните атаки за киберсигурност“, казва той.

В тази връзка главният изпълнителен директор подчерта заплахата от автономните изкуствени интелекти за икономиката, ако те попаднат в ръцете на недобронамерени участници.

„Това би довело до пълен срив в икономиката на Австралия“, посочва той. „Това би нарушило напълно дейността на австралийските дребни предприятия и физически лица, а в краен случай би могло да представлява заплаха за критичната инфраструктура.“

В подкрепа на това мнение Пур заяви, че мащабът и сложността на заплахите, породени от изкуствен интелект, ще се увеличат драстично с усъвършенстването на технологията.

„Кибератаките ще зачестяват и ще стават все по-сериозни, което ще направи сривове като неотдавнашния срив на CrowdStrike много по-редовно явление и много по-сложно за възстановяване“, посочва той.

Андрю Торнебрук допринесе за настоящия материал.

Споделете тази статия

Вашият коментар Отказ

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *

Последвайте ни във Фейсбук

НАЙ-ТЪРСЕНИ ДНЕС

"Аватар: Пътят на водата" - повторно издание през 2025 г.

„Аватар: Пътят на водата“ излезе с ново 3D издание през октомври

0
0
Плодове хинап (снимка: Ева Иванова)

Хинап (китайска фурма) – 10 ползи за здравето

0
0
kak se pravi kiselo zele s morska sol

Изпитана рецепта за кисело зеле в бидон

0
0
Селска агнешка чорба на баба

Селска агнешка чорба с ориз

0
0
крем супа от тиква

Вкусна крем супа от тиква цигулка

0
0
Унгария ще гарантира влизането на Путин в страната за среща с Тръмп въпреки заповедта за арест от МНС

Унгария ще осигури на Путин възможността да влезе в страната за среща с Тръмп, въпреки международната заповед за арест

0
0
b6352e59 b277 4afe 84e2 2be73680decf

„Музикални зографи“ освежава и въздига София

0
0

Свързани Публикации

Нова кибершпионажна група с подкрепата на ККП атакува дипломати и посолства - съобщава Palo Alto Networks

Нова кибершпионска група с подкрепата на ККП атакува дипломати и посолства – съобщава Palo Alto Networks

0
0
Почина защитничката на дивата природа и експерт по приматите Джейн Гудол на 91-годишна възраст

Защитничката на дивата природа и експерт по приматите Джейн Гудол почина на 91-годишна възраст

0
0
Как да защитим детското зрение от ранна миопия

Как да защитим децата от ранно късогледство

0
0
young woman resting comfortably her bedroom generated by ai

Значението на съня за физиологично и психологическо здраве

0
0
istock 2199088216 801x534 1

Вятърните електроцентрали отделят 228 химикала, част от тях токсични

0
0
ГДБОП проведе успешна акция по линия превенция и борба срещу контрабандата на стоки и данъчни измами по схемата „китайско карго“

Разбита e престъпна схема за внос на „китайско карго“

0
0
Из „Азбука на добродетелите“ от Биляна Дар - табло в  училище „Никола Вапцаров“ в Асеновград

Асеновградско училище превръща коридорите си в храм на добродетелите

0
0
Нов Симфоничен оркестър открива 35-ия си сезон с гала-концерт в зала "България"

Нов Симфоничен оркестър открива 35-ия си сезон

0
0
Борис Калайджиев с дъщеря си Светлина на откриването на изложбата "Диалог в глина" (14 – 19 октомври, 2025 г.) в Art Gallery 158 в София

„Диалог в глина“ – съвместна изложба на Борис Калайджиев от Wooоd в Art Gallery 158

0
0
Откриване на кръглата маса. От ляво надясно: проф. д.н. Борислав Градинаров, проф. Димитър Димитров, проф. д.н. Пенчо Пенчев, доц. д-р Румен Андреев

Кръгла маса: България в еврозоната – очаквания и реалност (Част I)

0
0
Следваща публикация
Руините на Римския форум в Рим (Dreamstime/TNS)

Зимен средиземноморски круиз - изследвайте спокойно местните култури

Epoch Times лого
Facebook X-twitter Goodreads-g Youtube Instagram Telegram
  • Последни новини
  • Направете дарение

35 страни, 21 езика

  • English
  • 中文
  • Español
  • עברית
  • 日本語
  • 한국어
  • Bahasa Indonesia
  • Français
  • Deutsch
  • Italiano
  • Português
  • Svenska
  • Nederlands
  • Русский
  • Українська
  • Română
  • Česky
  • Slovenščina
  • Polski
  • Türkçe
  • فارسی
  • За нас
  • Авторски права
  • Условия за ползване
  • Пишете ни!
  • Поверителност на информацията
  • България
  • Свят
  • Китай
    • COVID-19 и Ваксинация
  • Култура и изкуство
  • Наука и технологии
  • Начин на живот
  • Мнения
  • За нас
  • Авторски права
  • Условия за ползване
  • Пишете ни!
  • Поверителност на информацията

Copyright © 2024 Epochtimes.bg | Всички права запазени Epochtimes.bg не носи отговорност за съдържанието на външни сайтове

Няма резултати
Виж всички резултати
  • България
  • Европа
  • САЩ
  • Русия
  • Китай
  • Свят
  • Култура
  • Наука
  • Дух и съзнание
  • Начин на живот

© 2019 Epoch Times България.

Epoch Times Bulgaria