이분법적으로 생각하는 경향은 인간 본성에서 비롯한다. 20세기 프랑스의 인류학자이자 철학자인 『야생의 사고』 저자 클로드 레비-스트로스는 이러한 흑백 인식을 원시적 생존메커니즘으로 돌아가는 방편이라고 말했다. 친구와 적을 빠르게 가르는 일이 생사를 결정한다. 치명적인 위험에 직면할수록 갈팡질팡하지 않는 편이 낫다. 오늘날의 뉴스는 인간 집단을 '우리' 대 '그들'로 파편화하는 인종주의, 민족주의, 정치적 파벌, 종교적 근본주의 같은, 지금까지도 이어지고 있는 경직되고 양극화된 사고방식의 결과물로 가득 차 있다.

주변 사람들은 앞으로 매끄럽게 나아가는데 나만 삐걱거리며 하루하루를 힘들게 감당하고 있다는, 남들은 토끼풀에 안착했는데 나만 가시덤불에 들어섰다는 믿음. 자기 연민은 대개 이러한 망상에서 나온다. 자기 자신을 불쌍하게 여기는 것은 실은 모든 사람이 언제라도 강렬한 고통을 겪을 수 있다는 사실, 거의 모든 사람이 자신만의 고통을 헤쳐나가기 위해 과거에도 노력했고 현재에도 노력하고 있다는 사실을 인정하지 않는 것과 같다.

AI가 개개인의 오랜 신념을 확증하는 '뉴스만 선별해서 보여주거나 오래전에 사망한 배우가 '출연'하는 영화를 만드는 등 정보와 오락 콘텐츠가 개인화되고 실감나게 합성된다면, 한 사회의 구성원들이 과연 그 사회의 역사와 현재를 공통되게 인식할 수 있을까? 사회에 공통된 문화가 존재할 수 있을까? AI가 한 세기 동안 만들어진 음악이나 방송을 분석해 히트작'을 만들면 창작의 산물이라 해야 할까, 단순한 짜깁기의 결과물이라 해야 할까?

우리 시대의 모순은 디지털화로 인간이 이용하는 정보가 계속 늘어나지만 진중한 사색에 필요한 공간은 점점 줄어든다는 사실이다.
끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다. 자극을 원하는 인간의 욕구에 맞춰 알고리즘이 우리에게 추천하는 콘텐츠나 경험은 대체로 극적이고, 충격적이고, 감정적이다. 이런 환경에서 진지하게 생각할 공간을 찾기란 쉬운 일이 아니다.

네트워크 플랫폼이 성장하고 진화하면서 우연히 본래 초점에서 벗어난 활동과 분야에 영향을 미쳤다. 앞에서 말했듯이 사람들이 Al 기반 네트워크 플랫폼을 신뢰해서 자신이 어디를 갔고, 누구와 무엇을 했고, 뭘 검색하고 봤는지 등 친구나 정부에는 선뜻 알려주지 않을 정보를 제공하기 시작했다.

자동 번역에 의존하는 사람들은 다른 문화와 국가를 이해하려는 노력을 줄이고 자기가 속한 문화의 렌즈로 세상을 보려는 본능에 더욱 충실해질 것인가? 아니면 타 문화에 더욱 관심이 깊어질 것인가?
각 사회의 문화•역사•감수성이 자동 번역에 어떤 식으로든 반영될 것인가? 단언하긴 어렵다.

정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다. 하지만 인터넷은 이용자에게 수천•수만•수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다. 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 필요하다.

이처럼 AI가 인간 독자에게 진실처럼 보이지만 전혀 사실에 근거하지 않은 문장을 생성하는 현상을 연구자들은 환각‘nallucination’ 혹은 확률론적 앵무새‘stochastic parroting’라고 부른다. 이런 오류를 촉발하는 요인과 방지법은 아직 충분히 밝혀지지 않았다.

챗GPT는 이 인터넷을 현재에도 미래에도 학습 자료로 사용할 것이다. 챗GPT는 질문에 답하도록 설계됐기 때문에, 조리 있는 답변을 제시하기 위해 간혹 없는 사실을 만들어내기도 한다.

가설을 통해 이해가 지식으로, 귀납을 통해 지식이 이해로 발전했다. 그러나 AI시대에는 우리가 알지 못하는 프로세스로 수수께끼가 해소된다. 이 혼란스럽고 모 순적인 기제로 미스터리는, 더 이상 미스터리가 아니지만 설명할 수는 없는 현상이 된다.

두뇌는 문자 그대로 판단으로 달려간다. 스테레 오타이핑과 합쳐지면 이 과정은 파급력이 크고, 가끔은 치명적인 결 과를 가져오기도 한다.