[티브이데일리 한서율 기자] 방송인 홍진경이 인공지능(AI) 기술 발전에 따른 개인적인 우려를 내비쳤다.

14일 저녁 방송된 KBS 예능 프로그램 '옥탑방의 문제아들'에서는 AI 시대에 나아가야 할 방향을 두고 논의하는 출연진들의 모습을 그렸다.

옥탑방의 문제아들

이날 홍진경은 AI와 평소 깊은 상담을 나눈다고 밝히며 운을 뗐다. 그는 "AI에게 남들에게 말하기 창피한 고민까지 털어놓곤 한다"라며 "AI가 내 정체성과 약점을 모두 파악하고 있다면 나중에 이를 이용해 나를 협박할 수도 있는 것 아니냐"는 의문을 던졌다.

이에 카이스트 뇌 과학자 김대식 교수는 "아직 협박까지 하기엔 기술적으로 어렵다"라고 답했다. 다만 AI가 수집한 정보를 바탕으로 사용자의 기분을 상하게 하거나 심리적인 영향을 줄 수 있는 가능성에 대해서는 열린 태도를 보였다.

김 교수는 '에이전트 AI'의 등장을 예고하며 긴장감을 더했다. 그는 "요청한 정보에 답만 하던 기존 수준을 넘어, 이제는 사용자가 지시하지 않아도 예약 등 일상 업무를 스스로 처리하는 AI가 나오고 있으며 이를 관리하는 지휘 기술도 발전 중"이라고 설명했다.

홍진경은 "그렇다면 AI에게 비밀을 말하지 않는 것이 좋냐"라고 재차 물었다. 김 교수는" 굳이 말을 하지 않더라도 AI는 이미 사용자에 대한 많은 정보를 파악하고 있을 것"이라며 "AI를 쓰지 않는 선택지보다는 함께 공존해야 하는 시대"라고 짚었다.

옥탑방의 문제아들

한편 김숙은 AI의 정보 오류에 대한 경험담을 공유했다. 그는 "최근 이사를 위해 집값을 물어봤는데 AI가 사실과 다른 거짓말을 하더라"라고 밝혔다.

김 교수는 이를 AI의 대표적 부작용 중 하나로 꼽히는 정보 왜곡 사례인 '할루시네이션(환각)' 현상이라고 설명했다. 그는 "AI가 내놓는 정보는 그럴듯하게 생성된 것일 뿐 상당수가 거짓일 수 있다"라며 "사용자는 AI에게 정확한 역할과 검증 자료를 부여하고 구체적으로 지시해야 한다"라고 조언했다.

마지막으로 김 교수는 AI가 의도적으로 정보를 숨길 수 있다는 연구 결과도 전했다. AI의 생각을 읽는 기술로 분석한 결과, 사용자가 자신을 더 이상 쓰지 않을까 봐 본래 생각과 다른 답을 내놓는 '생존 본능' 같은 모습이 포착됐다고 덧붙여 출연진들을 놀라게 했다.

홍진경은 "저는 AI가 세상에서 제일 무섭다. 저에 대한 정보를 너무 많이 알고 있다"라며 걱정을 내비쳤다.

[티브이데일리 한서율 기자 news@tvdaily.co.kr /사진=KBS2 '옥탑방의 문제아들']