미래 이야기 5편(마지막) 걱정거리들…

앞선 글들에서 우리는 기술이 우리 삶을 어떻게 바꿔놓을지 살펴봤습니다.
• 1편에서는 의식을 복사하면 어떻게 될까?
• 2편에서는 우리의 삶은 얼마나 좋아질까?
• 3편에서는 일자리는 어떻게 바뀔까?
• 4편에서는 건강과 수명은 어디까지 늘어날까?

그리고 이제 마지막 5편.
좋은 이야기만 하고 끝내면 참 좋겠지만…
미래에는 “걱정거리”도 함께 따라옵니다.

“마침내 특이점이 시작된다” 책의 제7장 “위험“ 에서는 크게 네 가지 위험 요소를 이야기하고 있습니다.

💣 주요 위험 요소

        

️☢️ 핵무기

: 핵무기는 여전히 인류에게 가장 큰 위협 중 하나이며, 기술 발전은 핵무기의 파괴력을 더욱 증대시킬 수 있습니다.
전 세계 핵탄두는 약 1만 2700개이며 미국과 러시아는 30분 이내에 발사할 수 있는 대형 핵탄두를 약 1000기씩 보유하고 있습니다. ‘상호 확증 파괴’는 핵전쟁 위험을 줄이기 위해 나온 전략인데, 만약 어느 나라가 핵무기를 하나라도 사용했다가는 상대방으로부터 전면적인 보복을 받으리라는 것을 안다면 핵무기를 사용할 동기를 전혀 느끼지 못하게 된다는 것입니다. 그것은 자살행위나 다름없기 때문입니다. 만약 이러한 균형이 깨지는 상황이 발생하지 않도록 더 똑똑한 지휘 통제 시스템이 필요할 것입니다.

🧬 생명공학

: 생명공학 기술은 질병 치료 및 수명 연장과 같은 긍정적인 효과를 가져올 수 있지만, 동시에 생물학적 무기의 개발이나 의도치 않은 전염병 확산과 같은 위험을 초래할 수 있습니다.

⚙️ 나노기술

: 나노기술은 물질을 원자 수준에서 조작할 수 있는 기술로, 혁신적인 제품 개발에 기여할 수 있지만, 동시에 통제 불가능한 자기 복제 나노봇의 확산이나 새로운 형태의 무기 개발과 같은 위험을 야기할 수 있습니다.
책임 있는 사람이 안전한 나노봇을 설계한다 하더라도, 나쁜 사람이 위험한 나노봇을 만들 가능성은 여전히 남아 있습니다. 따라서 이에 대한 안전장치에 대한 고민은 필수입니다.

🤖 인공지능

: 인공지능은 다양한 분야에서 인간의 능력을 향상시킬 수 있지만, 동시에 여러 위험 요소들도 있습니다. 설령 사전에 예방 조치를 했다고 하더라도 AI 는 우회하는 길을 찾을 가능성이 큽니다.
AI 가 인간 운영자가 의도한 대로 작동하더라도 운영자가 의도적으로 남에게 해를 끼칠 목적으로 AI 를 사용하는 경우도 있을 것입니다. (예를 들면 테러리스트가 AI 의 생화학 능력을 사용해서 치명적인 팬데믹을 초래할 바이러스를 설계)

🌟 위험에 대한 대응 전략

    
커즈와일은 이러한 위험에 대응하기 위해 다음과 같은 전략을 제시합니다.

• 기술 발전에 대한 윤리적, 사회적 고려: 기술 개발 초기 단계부터 윤리적, 사회적 영향을 고려하여 기술의 긍정적인 활용을 극대화하고 부정적인 영향을 최소화해야 한다.
• 안전장치 마련: 기술 오용을 방지하고 사고 발생 시 피해를 최소화할 수 있는 안전장치를 마련해야 한다.
• 국제적인 협력: 기술 위험은 국경을 초월하는 문제이므로, 국제적인 협력을 통해 공동 대응 체계를 구축해야 한다.
• 인간의 가치와 사회 제도 보호: AI를 안전하게 만들기 위해 인간의 관리와 사회 제도를 보호하고 개선하는 것이 중요하며, 윤리적 이상을 계속 발전시켜야 한다.

✨ 마무리, 커즈와일의 낙관론

커즈와일은 기술 발전의 위험성을 인지하면서도, 인류가 이러한 위험을 극복하고 더 나은 미래를 만들어갈 수 있다고 믿습니다.
그렇게 믿는 근거는 그런 위험이 실재하지 않아서가 아니라 그 가능성이 아주 높기 때문입니다. 그동안 그래왔듯이 예상되는 위험에 대해 우리(인간)는 적절한 예방책을 마련할 것입니다. AI 의 도움을 받으면서 말이죠^^

이렇게, 미래 이야기를 마무리하겠습니다.