Найден способ предотвратить конец света из-за роботов

Исследователи из Университета Массачусетса в Амхерсте создали платформу для создания алгоритмов, которые должны предотвратить опасное поведение роботов с искусственным интеллектом (ИИ) и не допустить причинения вреда людям. Об этом пишет издание Science Alert.

Ученые назвали алгоритмы селдоновскими — в честь героя серии научно-фантастических книг «Основание» Айзека Азимова. Хотя они не позволяют ИИ понимать морально-этические нормы или то, что является добром для человека, они дают возможность системе установить, какое поведение является нежелательным, и избежать его.

В качестве примера исследователи приводят применение селдоновских алгоритмов для лечения диабета, когда автоматическая система следит за инсулиновой помпой. В этом случае нежелательным поведением будет то, что приведет к критическому снижению уровня инсулина в крови или гипогликемии. Ученые также создали алгоритм для системы прогнозирования среднего балла аттестата у студентов, чтобы избежать гендерных предрассудков.