Роботів навчають етиці через читання книг

     Вчені з Коледжу комп'ютерних наук технологічного інституту в Джорджії придумали спосіб, за допомогою якого роботів можна буде навчити моралі. Для цього дослідники запропонували використовувати історії і розповіді, в яких заохочуються людські цінності. Стаття була опублікована на сайті коледжу.


     Вчені вважають, що штучний інтелект може навчитися людським цінностям, якщо він буде володіти великою базою можливих поведінкових сценаріїв, в яких певні дії нагороджуються, а інші караються. Такою базою можуть служити романи й оповідання, де дії головних героїв відповідають моралі. За допомогою методу, званого вирівнюємо цінностей, можна запобігти небажану поведінку робота.


     Метод вирівнювання цінностей виглядає наступним чином. На основі текстів створюється дерево історій. Воно являє собою всі можливі варіанти поведінки робота. При цьому кожному дії присвоюється нагорода або штраф, залежно від того, яка мета частіше зустрічалося в початкових текстах. Якщо дати роботу проаналізувати все дерево подій, то нагороди визначать його подальший образ дії, і він буде вести себе, як позитивний герой з роману.


     Для здійснення свого підходу вчені планують скористатися іншим штучним інтелектом - таким як "Шахерезада", яка раніше була розроблена в тому ж коледжі. "Шахерезада" здатна згенерувати історію на будь-яку тему, використовуючи тексти, доступні в мережі Інтернет. На їх основі вона створює дерево історій з можливих дій і взаємовиключних подій.