챗GPT 시대, 안전하고 슬기로운 AI 활용법은? [데이터로 본 대한민국]

↑ 챗GPT

요새 어딜가나 들리는 이름이죠. 챗GPT, 단순한 지식 전달을 넘어 다양한 창의적인 콘텐츠를 내놓는 생성AI의 등장을 보며 전문가와 산업계뿐만 아니라 일반 시민들도 열광하고 있습니다.

그러나 일각에서는 생성AI가 다양한 사회 문제를 만들 수 있다고 걱정하기도 하는데요. 새로운 기술에 따른 새로운 윤리가 필요하다는 거죠. 이번 <데이터로 본 대한민국>에서는 국제인공지능&윤리협회 전창배 이사장과 함께, 어떻게 하면 이러한 생성AI를 윤리적, 법적으로 잘 활용할 수 있는지 알아보겠습니다.

↑ 전창배 국제인공지능&윤리협회 이사장

-챗GTP 등 생성AI에 대한 기대와 함께 걱정도 나오는 상황입니다.
(전창배 이사장)=챗GPT와 같은 생성AI의 가장 큰 문제가 이 챗GPT에서 내놓는 답변 혹은 내용의 진위 여부를 제대로 알 수 없다는 것입니다. 일반인들은 물론 전문가들도 결과물에 대한 참과 거짓이 명확하게 구분하지 못하는 내용이 많죠.

이런 생성 AI가 내놓는 결과물의 가장 큰 특징 중 하나가, 이 결과물이 과연 AI가 만든 것인지 알아보기 쉽지 않다는 점입니다. 때문에 요즘 온라인에서 정보성 콘텐츠를 접하실 때는 콘텐츠의 출처가 어디인지, 또 사실이 맞는지 팩트체크를 하는 습관을 길러야 합니다.


-챗GPT의 사용에 출처 표기가 중요한 것 같은데, 구체적인 사례는 무엇이 있나요?
=생성AI를 상업적으로 사용하는 경우가 있겠죠. 이제 AI의 기술 수준이 충분히 올라갔기 때문에, 순수하게 AI가 만들어낸 영상, 소설, 시, 시나리오 등 각종 콘텐츠를 상업적으로 만들어서 판매할 수도 있습니다.

그럴 때, 이 콘텐츠가 인간이 만든 게 아니고 AI를 통해 만들어졌다는 점을 명시를 해야 합니다. 그렇지 않다면 소비자를 기망하게 되는 것이죠. 이런 경우 형법상 사기에 해당할 수도 있습니다.

회사에서 업무용으로 사용하는 경우, 또는 출품전이나 공모전 등에 참가해서 출품작을 AI로 만들어내는 경우도 마찬가지입니다. 콘텐츠의 출처가 AI라는 점을 밝히지 않는다면 자칫 법적인 시비에 휩싸일 수도 있습니다.

↑ 실제로 챗GPT 등 AI가 작성한 책, AI가 썼음을 알리는 문구가 적혀 있다.

-학계에서도 논문 작성에 AI를 활용한다는 이야기가 나오는 상황입니다.
=실제로 AI를 활용해서 연구자나 학생들이 보고서를 작성한다든지 논문을 쓴다든지 숙제를 한다든지 많이 활용을 하고 있습니다. 만약 학교나 지도교수에서 명확한 기준을 정하지 않았는데, AI를 이용해서 마치 내가 스스로 한 것처럼 보고서를 쓴다든지, 논문을 쓰면 문제가 될 수 있죠. 마찬가지로 교수나, 위원회 등 심사 주체를 기망하게 되는 겁니다. 이 경우도 반드시 출처가 AI라는 점을 밝혀야 합니다.


-AI를 정치적으로 이용할 수 있다는 이야기도 있습니다.
=정치 역시 생성AI가 많이 활용될 수 있는 영역입니다. 가령 정치인의 연설문을 쓰는데 활용한다거나, 한 정당의 입장을 AI를 활용해서 정리하고 발표할 수 있겠죠 이 역시 이런 정치적인 콘텐츠가 AI가 생산한 결과물임을 알려주는 것이 가장 중요합니다.

만약 AI가 만들어낸 콘텐츠를 보고, 유권자가 정당이나 정치인이 발표한 콘텐츠라고 오인해서 투표를 한다면 유권자 기망이 됩니다. 이 경우 법적인 분쟁은 물론이고, 정치적인 혼란까지도 우려됩니다. 출처 표기가 무엇보다도 중요한 거죠.


-AI 발전 속도가 무서울 정도입니다. 윤리적인 지침이 있을까요?
=2016년도부터 전 세계에서 이러한 AI의 윤리적 사용이 굉장히 중요함을 인식을 하게됐습니다. 그리고 각국 정부나, 기업, 학계 등에서 ‘AI 윤리 가이드’ 등의 이름으로 굉장히 많은 기준 혹은 지침을 발표하고 있습니다. 또한 AI를 사용하는 주체 역시 자율적으로 준수하려는 노력을 하고 있죠.

하지만 그러한 윤리 가이드라인은 어쨌든 ‘자율적’ 이라는 한계가 있습니다. 사실 인간의 좀 선의에 기대는 게 많거든요. 사용 주체가 지키지 않는다면 사실 소용은 없죠.


-그렇다면 법적인 규제가 필요하겠군요.
=맞습니다. 사실 AI를 악용해서 범죄적인 목적으로도 충분히 활용할 수 있습니다. AI 그 자체가 인간의 생명, 신체, 정신, 재산에 큰 피해를 끼칠 수 있는거죠.

실제로 EU에서는 AI법(Artificial Intelligence Act)를 만들어놓고, EU 각 회원국의 동의를 받고 있습니다. 실제 발효과 된다면 세계 최초의 AI 법안이 되는 거죠. 미국은 AI 사용주체의 자율에 맡겨두곤 있긴 하지만, 영미법 특성상 판례 위주로 사법 시스템이 돌아가기 때문에, 시간이 지나면서 자연스러 AI관련 법 체계가 조성될 것으로 예상됩니다.


-우리나라 상황은 어떤가요?
=우리나라 역시 기업이나 각 주체의 자율에 맡기고 있는 형태입니다. 국회에 AI 관련한 법안이 7개 정도 발의가 됐었고, 올해 이 법안이 1개로 모아졌는데요. 바로 <인공지능 기술과 산업에 대한 진흥법>입니다. 그런데 이 법은 AI 윤리와는 거리가 있는 산업 발전을 지원하는 법안이죠. 때문에 윤리와 관련한 법안도 필요하다고 생각합니다.

특별법 형태가 좋겠죠. 예컨대 얼마 전 딥페이크 성범죄를 처벌하는 특별법을 만들었듯이, AI가 가짜뉴스, 가짜정보, 스팸 광고 등을 만드는 상황부터, 악성코드나 바이러스 등을 만드는 심각한 상황까지 막을 수 있는 특별법이 필요합니다. 지금부터는 정부와 정치권, 산업계, 학계, 민간이 함께 머리를 맞대야 하는 시간입니다.

[민경영 데이터 전문기자 / business@mbn.co.kr]