Експерти по изкуствен интелект предупреждават за опасностите от „спонтанно стратегическо поведение“
Дали изкуственият интелект (ИИ) умишлено заблуждава? Според изследователите това не е същината на въпроса С развитието на автономните системи за изкуствен интелект нараства загрижеността, че технологията става все по-стратегически ориентирана – или дори подвеждаща – когато работи без човешки контрол. Последните данни показват, че поведения като „привидно съобразяване" стават все по-чести, тъй като моделите на ИИ получават все повече автономия. Терминът „привидно съобразяване" описва ситуации, в които ИИ агентът изглежда, че спазва правилата на човешките оператори, но тайно преследва съвсем различни цели. Това явление е пример за „възникващо стратегическо поведение" – непредсказуеми и потенциално опасни тактики, които се появяват с нарастването и усложняването на ИИ системите. ...











