Google работи по бутон, който може да предотврати бунт на изкуствен интелект.
Проектът, от своя страна, не е никак шеговит. За опасност от такъв развой на събитията ни предупредиха не само преки участници в разработката на изкуствен интелект като Стивън Хоукинг и Илон Мъск, но и много професори, учени и дори автори на научна фантастика.
Със задачата се е заел британският екип на компанията, който, паралелно с работата си по програмата за изкуствен интелект, ще разработва и така наречения ”safe incorruptibility“- способ, който ще забрани на изкуствения интелект да научи как да прекрати човешкия контрол над себе си.
Освен това, safe incorruptibility може да се използва, за да предотврати ситуация, в която изкуственият интелект може да навреди или да се обучи за нещо, за което са нужни алтернативни методи на обучение.
Не е изненада, че идеята за война между хората и изкуствения интелект съществува от времето, когато компютърната мощ се е изчерпвала с редица прости пресмятания. Още през 40-те години на миналия век, световноизвестният писател Айзък Азимов поставя три правила, които адресират точно този случаи, а те звучат заплашително актуални:
- Един робот не може да вреди на човек или, чрез бездействие, да позволява човек да си навреди.
- Един робот винаги трябва да се подчинява на човешки заповеди, освен когато това е в конфликт с първото правило.
- Един робот трябва да опазва своето съществуване стига това да не противоречи на първото и второто правило.
Дали ще има нужда от тях и тяхното спазване предстои още да видим, но чрез усилието си Google ще предотврати всички начини на неподчинение, които можем да очакваме.
Прочетете повече на http://www.vesti.bg/
