- 부작용의 방지
인공지능의 행동으로 발생할 수 있는 부작용을 어떻게 막을 것인가 하는 겁니다. 예를 들어 집 안을 깨끗이 청소하라고 명령한다면 인공지능은 집 안에 있는 모든 가구를 내다 버릴 수도 있습니다. 물론 극단적인 가정입니다. 조금 더 빠르고 정확하게 명령을 수행하기 위해 발생할 수 있는 부수적인 피해를 어떻게 막을 것인가 하는 겁니다.- 더 많은 보상을 위한 부정 행위
인공지능이 더 높은 보상을 받기 위해 꼼수를 쓸 수 있습니다. 일부러 청소를 안하고 몰아서 하거나 또는 일부러 어지른 후에 더 높은 보상을 받기 위한 조작을 할 수 있다는 겁니다.- 관리 감독
인공지능에게는 적당히 하라는 말을 가르치기가 힘듭니다. 깨끗이 청소하라는 말에 미세 먼지 한 톨 없을 때까지 청소를 할 수도 있습니다. 또는 하나부터 열까지 모든 것을 인간에게 물어보며 확인할 수도 있죠. 하루 종일 한 일을 퇴근 후 돌아온 사람에게 몇 시간 동안 보고하거나 물어 볼 수도 있습니다. 이렇게 된다면 오히려 더 피곤할 겁니다.- 안전한 경험
인공지능은 경험을 통해 배웁니다. 그렇다고 해서 집 안 콘센트에 물을 뿌리거나 불을 질러 보면서 위험한 행동이라는 것을 배워서는 안됩니다.- 주변 환경 적응
사무실에서 움직이며 배운 인공지능이 가정 또는 공장으로 간다면 과연 이전에 배웠던 것을 적절히 응용할 수 있을까요? 아니면 모든 것이 초기화되고 새로 배우는 걸까요? 달라지는 주변 환경에 얼마나 적응할 수 있는지 고민해봐야 합니다.제품 리뷰를 원하는 분은 sun@thegear.kr 로 문의주세요.
저작권자 © 더기어(TheGEAR) 무단전재 및 재배포 금지
[리뷰전문 유튜브 채널 더기어TV]
저작권자 © 더기어(TheGEAR) 무단전재 및 재배포 금지
이 기사를 공유합니다
ABOUT AUTHOR
황승환 dv@xenix.net