"AI 시스템으로 인한 피해에 대비해 '인간 백업' 갖춰야 한다"

백악관, AI 권리장전 청사진 공개

↑ 미국 워싱턴 D.C. 백악관 / 사진=연합뉴스

미국 백악관이 인류의 삶을 편하게 만들 수 있으나 사생활 침해 등 부작용이 우려되는 인공지능(AI)으로부터 개인 권리를 보호하기 위한 지침을 내놓았습니다.

현지시간 4일, 백악관은 AI 시대에 미국인의 권리를 보호하기 위해 자동화 시스템의 개발, 사용, 배치에 대한 기본 원칙을 담은 'AI 권리장전 청사진'을 공개했습니다.

AI를 다루는 기업과 정부 기관에 대한 권고 성격인 청사진은 5가지 원칙으로 구성됐으며 이에는 안전하고 효과적인 시스템,알고리즘의 편견 방지,개인정보 보호, 충분한 고지와 설명,대인(對人) 서비스 제공 등의 원칙을 포함하고 있습니다.

백악관은 AI 시스템을 안전하고 의도된 대로 사용해야 하며 필요하면 아예 사용하지 않거나 제거할 수 있어야 한다고 권고했습니다.

또한 알고리즘 등 시스템에 인종이나 피부색, 민족, 성별, 종교, 연령, 장애 등에 따라 사람을 차별할 수 있는 고정관념이 내재되지 않아야 한다고 했습니다.

꼭 필요한 정보만 개인의 허락을 받아 수집하고 특히 의료, 직업, 교육, 범죄기록, 금융 등 민감한 정보가 유출되지 않도록 안전장치를 마련할 것을 권고했습니다.

개인의 권리를 침해할 수 있는 무분별한 감시에 대해서도 경고했습니다.

사업자들은 AI가 어떻게 작동하고 사용자에게 어떤 영향을 미치는지 이해하기 쉬운 표현으로 설명해야 하며 사용자가 원하면 AI가 아닌 사람을 상대할 수 있도록 대안 서비스를 제시해야 합니다.

특히 AI 시스템이 제대로 작동하지 않거나 피해를 일으킬 수 있는 경우에 대비해 '인간 백업'이 필요하다고 강조했습니다.

백악관은 AI가 삶을 풍요롭게 만들 큰 잠재력이 있으나 부작용에 대한 우려도 크다며 "AI 권리장전 청사진은 이런 위협으로부터 사람들을 보호하고 기술이 우리의 가장 고귀한 가치를 강화하는 사회를 만들기 위한 지침"이라고 설명했습니다.


[디지털뉴스부]