Google сформулировала пять принципов безопасности робототехники


Главные новости дня читайте в нашем паблике Вконтакте
Компании Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта.
Среди них:
⃣ избегание нежелательных побочных эффектов (например, робот может разбить вазу, если это ускорит процесс уборки);
⃣ избегание жульничества (тот же робот может просто прикрыть мусор, а не убрать его);
⃣ гибкая потребность в надзоре (например, если робот может посоветоваться с человеком при выполнении задачи, он не должен надоедать вопросами);
⃣ безопасное обучение (упомянутому роботу-уборщику не стоит экспериментировать с протиркой розеток мокрой тряпкой);
⃣ устойчивость к смене деятельности (например, уборка в цехе металлообработки и химической лаборатории принципиально отличается).
Среди возможных путей решения исследователи называют использование симуляций в обучении, ограничение пространства деятельности роботов и человеческий надзор, однако ни один из них не представляет окончательного решения проблемы. По мнению специалистов Google, обеспечить заданную работу систем машинного обучения могут только ответственные, открытые и междисциплинарные усилия разработчиков.
#Tech #Технологии #Innovation #Наука #Изобретения #Инновации #ИИ #AI #Google
READ  Бельгийская компания вживит чипы своим сотрудникам