최근 SNS에서 화제가 된 영상이 있다. 청년들이 AI로 만든 가짜 영상과 사진을 부모님께 보여준 뒤 반응을 촬영하는 영상이다. 강도나 노숙자로 보이는 낯선 인물을 현관이나 집 내부 사진에 합성해 보내는 식이다. 부모님들은 창작물과 현실을 구분하지 못해 당황한 기색이 역력했다. 자녀를 걱정하는 마음에 실제 경찰에 전화까지 했다는 일화도 종종 들려왔다. 누군가에게는 장난일 수 있지만, 이는 AI가 부정적인 방향으로 활용될 수 있음을 시사한다.

문제는 이러한 위험에 비해 경계심이 지나치게 낮다는 점이다. 퓨리서치센터가 실시한 AI 인식 조사에서 한국은 기술에 대한 우려를 표한 응답 비율이 25개국 중 가장 낮았다. 특히 20대 청년층의 신뢰도는 다른 연령대보다 높게 나타났다. AI 관련 영상에서 네티즌의 반응을 보면 AI 기술 발전으로 사실 구분이 어려워 두렵다는 반응도 간혹 있었지만, 대부분은 흥미롭다며 웃어넘기는 반응이 많았다. 이는 많은 청년층이 ‘AI 안전 불감증’에 처해있다는 방증이다.

최근 여러 지자체는 ‘AI 공존도시’로 행정 전반에 AX(AI Transformation)를 적극 도입하겠다고 밝혔다. 얼마 전 동대문구 또한 AI 공존도시 선포식을 열어 취재를 다녀왔다. AX는 단순 보조 도구를 넘어 AI 에이전트가 방대한 데이터를 수집·분석해 의사결정을 지원하는 체계를 뜻한다. 문제는 AI가 정보를 수집하는 과정에서 개인정보가 유출될 수 있다는 것이다. AI가 지자체 행정 전반에 적용되는 만큼 그로 인한 오류나 사고 발생 시 피해는 특정 부서를 넘어 일반 시민들에게까지 광범위하게 확산될 여지가 있다. AI의 화려함 속 숨겨진 이면이 안타까운 현실이다.

AI 기술의 발전은 거스를 수 없는 흐름이다. 현재 AI 기술은 기업, 행정, 문화 등 다방면으로 인류의 삶을 편리하게 뒤바꿔 놓았다. 하지만 AI 기술의 안전성에 대한 비판적 사고가 필요하다. 특히 사생활과 개인정보에 대한 민감도가 해외에 비해 상대적으로 높지 않은 한국 사회 특성상 개인정보에 접근할 수 있는 AI 기술에 대한 섬세한 논의가 필요하다. AI 기술 자체에 초점이 맞춰진 것이 아닌 AI를 활용하는 주체인 인간에 대한 논의가 선행돼야 할 것이다.