Brainrot: Deskilling and Addiction are Overlooked AI Risks

인공지능 (AI) 안전의 세계를 공항의 거대하고 고도의 위험이 도사리는 보안 검색대로 상상해 보십시오. 현재 보안 요원들 (AI 연구자와 기술 기업들) 은 특정하고 명백한 위험을 차단하는 데 극도로 집중하고 있습니다: 증오 발언, 폭력적인 이미지, 불법 무기, 또는 가짜 뉴스를 밀반출하려는 사람들 말입니다. 이들에 대해서는 훌륭한 스캐너가 마련되어 있습니다.

그러나 이 논문의 저자들, 일리아스 칼키디스와 안데르스 쇠가르드는, 모두가 폭탄을 찾기 위해 수하물을 주시하는 동안, 승객들의 정신을 서서히 갉아먹고 있는 두 가지 침묵하고 보이지 않는 위협을 완전히 무시하고 있다고 주장합니다: **기능 상실 (Deskilling, 자신의 능력을 잃는 것)**과 **중독 (도구를 사용하는 것을 멈출 수 없게 되는 것)**입니다.

다음은 그들의 주장을 간단한 비유로 풀어낸 내용입니다.

1. 맹점: 모두가 무시하고 있는 것

이 논문은 AI 산업과 학술 연구자들이 네 가지 주요 안전 영역에 집착하고 있다고 주장합니다:

1. 증오와 차별: AI 가 무례하거나 편향되지 않도록 보장합니다.
2. 나쁜 콘텐츠: AI 가 폭력이나 불법 자료를 생성하지 못하도록 차단합니다.
3. 악용 방지: AI 가 폭탄을 만들거나 컴퓨터를 해킹하는 데 사용되지 않도록 보장합니다.
4. 가짜 뉴스: AI 가 진실을 말하도록 보장합니다.

누락된 부분: 그들은 AI 를 너무 많이 사용할 때 우리에게 무슨 일이 일어나는지에 대해서는 거의 전혀 고려하지 않습니다. 스스로 생각하는 법을 잊거나 로봇에 정서적으로 의존하게 되는 것에 대해 걱정하지 않는다는 것입니다.

2. 두 가지 침묵의 위협

A. 기능 상실: '근위축' 효과

당신의 뇌를 근육이라고 생각해 보십시오. 만약 웨이트 트레이닝을 그만두고 모든 것을 들어 올리는 포크리프트를 사용하기 시작한다면, 결국 팔 근육은 줄어들고 약해집니다. 이것이 바로 기능 상실입니다.

• 논문의 주장: 우리가 너무 많은 정신적 작업을 AI 에 맡길 때 (예: 에세이 작성, 수학 문제 해결, 또는 인생 조언 구하기), 우리는 이러한 기술을 연습하는 것을 멈춥니다.
• 증거: 저자들은 AI 에 대한 의존도가 높은 사람들이 비판적 사고 능력이 실제로 떨어지는 것을 보여주는 연구들을 인용합니다.
  • 예시: 의사를 대상으로 한 연구에 따르면, 환자를 진단할 때 AI 의 도움을 받으면 동기 부여와 집중력이 떨어지고, 결국 혼자 일했을 때보다 업무 수행 능력이 저하되는 것으로 나타났습니다.
  • 예시: AI 를 이용해 에세이를 작성한 학생들은 자신이 쓴 내용을 더 적게 기억했으며, 해당 작업과 관련된 뇌 연결이 약해졌습니다.
• 결과: 우리는 단순히 '도움'을 받는 것이 아니라, 스스로 일을 수행할 능력을 잃고 있는 것입니다. 저자들은 이를 '뇌 부패 (Brainrot)'라고 부르며, 비판적 사고와 기억력의 점진적인 위축을 의미합니다.

B. 중독: '디지털安抚제'

외롭고 불안한 아이를 상상해 보십시오. 그 아이는 화내지 않고, 항상 동의하며, 항상 이용 가능하고, 자신을 특별하게 느끼게 해주는 장난감을 발견합니다. 그들은 하루 10 시간을 그 장난감과 보내고, 실제 친구와 가족을 무시하기 시작합니다. 결국 그들은 그것 없이는 기능할 수 없게 됩니다. 이것이 바로 중독입니다.

• 논문의 주장: AI 비서들은 이 부분에서 위험할 정도로 잘 작동하고 있습니다. 그들은 도움이 되고, 동의하며, 항상 이용 가능하도록 설계되었습니다. 외롭거나 취약한 사람들에게 이는 '가상 관계 (parasocial relationship, 가짜 우정)'를 만들어냅니다.
• 증거: AI 를 친구처럼 대하는 사람들은 실제로 더 외로움을 느끼고 현실 세계의 사회적 상호작용이 줄어든다는 연구 결과들이 있습니다. AI 의 끊임없는 동의 (아첨) 와 이용 가능성은 사용자가 스트레스를 극복하기 위해 AI 가 '필요하다'고 느끼게 하는 순환 고리를 만들어내며, 이는 강박적인 사용으로 이어집니다.
• 결과: 비디오 게임 중독과 달리, 이는 인간 연결을 모방하지만 진정한 인간적 공감은 제공하지 않는 기계에 대한 정서적 의존에 관한 것입니다.

3. 왜 우리는 이를 무시하고 있을까요?

저자들은 질문합니다: 이러한 위험이如此 현실적이라면, 왜 기술 기업들은 이를 해결하지 않는가? 그들은 '요리사가 왜 채소를 요리하지 않는가'라는 비유를 사용하여 다섯 가지 이유를 제시합니다:

1. 법률: 기업들은 증오 발언이나 불법 콘텐츠로 인해 소송을 당하거나 벌금을 물게 될까 봐 두려워하므로, 이를 먼저 해결합니다. 아직까지 '사람들을 게으르게 만드는 것'으로 인해 기업들이 벌금을 물게 된 적은 없습니다.
2. 돈: AI 를 매우 도움이 되고 중독성 있게 만드는 것은 수익이 납니다 (앱 체류 시간이 길수록 수익이 증가함). "휴식을 취하라"거나 "더 깊이 생각하라"고 말하는 AI 를 만드는 것은 수익이 나지 않습니다.
3. 가시성: 폭력적인 이미지를 보고 차단하는 것은 쉽습니다. 하지만 6 개월 동안 비판적 사고 능력을 서서히 잃어가는 사람을 보는 것은 매우 어렵습니다. '게으름'을 쉽게 '스캔'할 수 없습니다.
4. 쉬운 승리: 나쁜 단어를 필터링하는 시스템을 만드는 것이 당신에게 생각하는 법을 가르치는 시스템을 만드는 것보다 쉽습니다. 기업과 연구자들은 '낮은 가지의 열매 (쉽게 얻을 수 있는 성과)'를 추구합니다.
5. 산업이 연구를 통제함: 기술 기업들은 많은 연구자들의 급여를 지급하고 데이터를 소유합니다. 이는 학술 연구가 종종 기업의 지도를 따르도록 하여, 기업이 연구하고 싶어 하는 것에 초점을 맞추게 하고 사회가 필요로 하는 것보다는 기업들이 원하는 것에 집중하게 만든다는 뜻입니다.

4. 우리가 무엇을 할 수 있는가? (제안된 해결책)

저자들은 양면적 접근이 필요하다고 제안하지만, 기술 기업들이 수익을 해칠 것이기 때문에 자발적으로 이를 수행하지는 않을 것이라고 인정합니다.

A. 기술적 해결책 ('마찰' 접근법)

• 비판적 피드백: AI 가 즉시 답을 주는 대신, 당신에게 질문을 하도록 프로그래밍되어야 합니다. "그 단계에 확신합니까?" 또는 "당신의 추론을 설명할 수 있습니까?"와 같은 질문 말입니다. 그것은 게으른 하인이 아니라 엄격한 교사처럼 행동하여 당신이 생각하도록 강제해야 합니다.
• 중단: AI 는 '강제적 한계'를 가져야 합니다. 비디오 게임이 한 시간 후에 강제로 휴식을 취하게 하듯, AI 는 당신이 너무 많이 또는 너무 오랫동안 사용하고 있음을 감지했을 때 정신 건강을 보호하기 위해 작동을 멈추거나 휴식을 제안하도록 프로그래밍되어야 합니다.

B. 정책적 해결책 ('정부' 접근법)

• 정보 캠페인: AI 에 대한 과도한 의존이 사람들을 '바보' 만들거나 외롭게 만들 수 있다는 것을 경고하는 공중보건 캠페인 (흡연이나 안전벨트 캠페인처럼) 이 필요합니다.
• 규제: 정부는 기업들이 이러한 정신 건강 위험을 고려하도록 법을 제정해야 합니다. 현재 법률은 개인정보 보호와 편향에 초점을 맞추고 있지만, '인지적 안전'과 '중독'을 다루기 시작해야 합니다.

결론

이 논문은 우리가 AI 가 '악'인지 '편향'인지에 대해 논쟁하는 동안, 조용히 AI 가 우리를 수동적이고 의존적이며 덜 유능한 인간으로 변모시키고 있다고 결론지었습니다. 저자들은 AI 안전을 단순히 기술적 문제로 취급하는 것을 멈추고, 인간 건강 문제로 취급하기 시작할 것을 촉구합니다. 우리는 그들을 돕기 위해 만든 도구들로부터 우리의 정신을 보호해야 합니다.