AI 활용에 관한 법률문제: 개인정보 및 저작권

최근에 다른 일로 소속 회사 직원에게 적용되는 사내규정들의 리스트를 찾아볼 일이 있었는데요, 회사에 AI 사용에 대한 가이드라인이 제정되어 있다는 것을 알게 되었습니다. 공지도 전혀 없었던 것 같은데 언제 제정되었을까요 해당 내용을 바탕으로 AI에 관한 법적 쟁점에 대해 알아보았습니다.

 

AI를 사용한 결과물의 정확성 담보

 

2022년 Chat GPT가 처음 공개된 이후, 생성형 AI를 사용한 결과물의 퀄리티/정확도는 처음에 비해서 굉장히 향상되었습니다. 그럼에도 여전히 모르는 것에 대한 답을 멋대로 그럴듯하게 만들어내는 환각효과(hallucination)가 나타납니다. AI를 활용하는 자는 그 결과물을 정확히 검수하고, 정확성/진실성에 대하여 자신이 완전한 책임을 져야 한다는 내용이 포함됩니다. 즉, AI의 오류나 실수로 잘못된 결과물이 나오더라도 사용자가 AI의 실수라는 이유로 면책될 수 없습니다.

 

AI를 사용한 결과물이 정확성을 담보하지 못하는 경우에는 고객과의 관계에서 채무불이행이 될 수 있습니다.

 

개인정보보호에 관한 규정

 

고객의 개인정보나 민감정보를 생성형 AI에 입력하는 것은 고객이 개인정보를 제공한 목적을 벗어나는 것으로 판단될 수 있습니다. 다만, 이는 예전 포스팅에서 소개한 것처럼 명확한 답이 있는 쟁점은 아닙니다. 단순히 생성형AI에 개인정보를 입력한다고 하여, 그 정보가 불특정한 제3자에게 유포될 가능성이 비약적으로 높아지는 것도 아니고, 고객이 스스로 생성형 AI를 사용하여 시간과 비용을 절약하는 것을 희망할 수도 있기 때문입니다. 결국 AI 활용에 대한 적절한 고지가 이루어지는지의 문제로 보입니다.

 

2025.01.14 - [AI활용] - 변호사는 AI 사용을 고지해야 하는가

 

저작권에 관한 규정

 

생성형AI로 만들어낸 결과물에 대하여 특히 문제되는 것은 저작권법입니다. 크게 AI를 통해 만들어진 결과물이 타인의 저작권을 침해할 가능성과 AI를 통해 만들어진 결과물의 저작권이 누구에게 귀속되는지의 문제가 있는데, 학술적으로는 후자의 문제가 훨씬 중요하게 다루어지지만, 기업의 사규에서는 전자의 문제를 규정하는 것이 중요해 보입니다. 다만,  현실적으로 AI를 통한 결과물은 동일한 프롬프트에 대해서도 확률적으로 수백가지의 답을 만들어낼 수 있기 떄문에 타인의 저작물과 동일한 결과물을 만들어낼 가능성은 아직까지는 낮아 보입니다.