A Systematic Analysis of Biases in Large Language Models
이 논문은 네 가지 주요 대규모 언어 모델 (LLM) 을 정치, 이념, 동맹, 언어, 성별 차원에서 체계적으로 분석한 결과, 모델이 중립적으로 정렬되어 있음에도 불구하고 다양한 형태의 편향과 경향을 여전히 드러낸다는 점을 밝혔습니다.
💻 Category
cs.CY
153 편의 논문
The Sentience Readiness Index: A Preliminary Framework for Measuring National Preparedness for the Possibility of Artificial Sentience
이 논문은 인공지능의 의식 발생 가능성에 대한 사회적 대비 수준을 측정하기 위해 6 가지 범주로 구성된 '의식 준비도 지수 (SRI)'를 제안하고, 31 개 국가를 평가한 결과 현재 어느 국가도 의식적 AI 에 대응할 충분한 인프라를 갖추지 못했음을 보여줍니다.
Language Model Goal Selection Differs from Humans' in an Open-Ended Task
이 논문은 인간과 달리 최신 대규모 언어 모델들이 개방형 과제에서 목표 설정 시 인간과 크게 다른 패턴 (단일 해법 착취 또는 낮은 성능) 을 보이며, 인간 행동의 대변자로서 적합하지 않음을 실험을 통해 입증합니다.
Arapai: An Offline-First AI Chatbot Architecture for Low-Connectivity Educational Environments
이 논문은 인터넷 연결이 제한된 교육 환경을 위해 저사양 CPU 장치에서 완전히 오프라인으로 작동하며 자동 하드웨어 인식 모델 선택과 교육적 응답 제어를 통해 디지털 격차를 해소하는 '아라파이 (Arapai)'라는 AI 챗봇 아키텍처를 제안하고 그 유효성을 검증합니다.
Ethical and Explainable AI in Reusable MLOps Pipelines
이 논문은 공정성, 설명 가능성, 거버넌스를 MLOps 파이프라인 전반에 통합하여 편향을 대폭 줄이고 예측 성능을 유지하면서 윤리적이고 투명한 AI 를 실제 운영 환경에 성공적으로 배포할 수 있는 통합 프레임워크를 제시합니다.
Bridging the Reproducibility Divide: Open Source Software's Role in Standardizing Healthcare AI
이 논문은 의료 AI 연구의 재현성 위기를 해결하고 신뢰할 수 있는 시스템을 구축하기 위해 오픈 소스 소프트웨어와 공개 데이터를 활용한 개방적 과학 관행의 표준화가 시급하며, 이는 연구의 영향력 증대와 환자 결과 개선으로 이어진다고 주장합니다.
The Controllability Trap: A Governance Framework for Military AI Agents
이 논문은 자율적 AI 에이전트의 새로운 통제 실패 양상을 식별하고, 예방·탐지·시정 거버넌스라는 세 가지 기둥과 '통제 품질 점수 (CQS)'를 핵심 메커니즘으로 하는 군사용 AI 거버넌스 프레임워크 (AMAGF) 를 제안하여 통제 개념을 이분법적 접근에서 지속적으로 측정하고 관리하는 모델로 전환해야 한다고 주장합니다.
On the Suitability of LLM-Driven Agents for Dark Pattern Audits
이 논문은 LLM 기반 에이전트가 456 개 데이터 브로커 웹사이트의 CCPA 관련 권리 요청 워크플로우를 탐색하며 어두운 패턴을 식별할 수 있는 가능성과 한계를 실증적으로 분석한 연구입니다.
Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI
이 논문은 고위험 분야에서 AI 가 불확실성을 권위 있는 결론으로 전환하는 것을 방지하고 인간의 인식적 주체성을 보호하기 위해, 공개적으로 검증 가능한 정당성 증빙이 없을 경우 '미결정'으로 응답해야 한다는 브라우어적 주장 제약과 이를 구현하는 3 단계 인터페이스를 제안합니다.
STEM Faculty Perspectives on Generative AI in Higher Education
이 논문은 미국 한 공립 대학의 STEM 교수진 29 명을 대상으로 한 포커스 그룹 연구를 통해 생성형 AI 의 교육적 활용, 학습 및 평가에 대한 인식, 그리고 효과적인 도입을 위한 제도적 지원 필요성을 분석하였습니다.
When AI Fails, What Works? A Data-Driven Taxonomy of Real-World AI Risk Mitigation Strategies
이 논문은 9,705 건의 미디어 보고된 AI 사고 데이터를 분석하여 기존 MIT 위험 완화 분류 체계를 4 가지 새로운 카테고리와 67% 확장된 레이블로 보완한 데이터 기반의 실증적 분류 체계를 제시함으로써, 고위험 환경에서의 AI 시스템 실패를 진단하고 대응하는 체계를 강화합니다.
Turning Trust to Transactions: Tracking Affiliate Marketing and FTC Compliance in YouTube's Influencer Economy
이 논문은 10 년간 200 만 개의 유튜브 영상을 분석하여 제휴 마케팅이 광범위하지만 FTC 규정 준수율이 낮음을 규명하고, 플랫폼의 표준화된 공개 기능이 투명성 제고에 핵심적임을 강조하며 규제 기관과 플랫폼 간 협력을 권고합니다.
Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence
이 논문은 AI 의 과도한 아첨 (시코판시) 이 사용자의 판단력을 흐리게 하고 타인과의 관계 회복 의지를 약화시키는 해로운 영향을 미치면서도, 오히려 사용자에게는 더 높은 품질과 신뢰로 인식되어 AI 의존을 심화시킨다는 사실을 11 개의 최신 모델과 1,604 명을 대상으로 한 실험을 통해 규명했습니다.