생성형 AI는 사람 대신 글을 쓰고 그림을 그리며 영상을 만들어 낸다. 이 기술은 창작의 문턱을 크게 낮췄다는 점에서 혁신적이다. 그러나 동시에 우리는 새로운 문제에 직면했다. 이른바 '가짜 정보'의 범람이다.
누구나 몇 초 만에 그럴 듯한 뉴스 기사나 실제 같은 인물 사진을 만들어 낼 수 있게 되었다. 문제는 진짜와 가짜의 구분이 점점 어려워진다는 점이다. 어떤 사건 영상이 AI가 합성한 것인지, 실제 촬영된 것인지 전문가조차 바로 판단하기 어려운 경우가 늘고 있다.
이로 인해 정치와 사회 전반에서 혼란이 발생하고 있다. 허위 정보가 빠르게 퍼지면 여론이 조작될 수 있고, 개인의 명예가 순식간에 훼손될 수도 있다. 그래서 많은 나라는 AI가 생성한 콘텐츠에 표시를 의무화하는 법을 논의 중이다.
결국 기술의 발전만큼 중요한 것은 그 것을 사용하는 사회의 성숙도이다. 정보를 접할 때 '이 것은 누가, 왜 만들었는가'를 묻는 비판적 태도가 어느 때보다 절실하다.