OTTER: A Red-Teaming System for Toxicity-Evading Jailbreak Prompt Optimization
OTTER는 최소한의 토큰 변경을 통해 탐지를 회피하도록 프롬프트를 최적화함으로써 독성 기반 LLM 방어 체계의 취약성을 입증하고, 이를 통해 공격 성공률을 크게 높이며 분류기 강화를 위한 실행 가능한 통찰력을 제공하는 블랙박스 레드팀 프레임워크이다.
원저자가 쉬운 설명을 검토한 논문들.
이 페이지에 소개된 모든 논문은 원저자 중 최소 한 명이 저희의 쉬운 설명을 확인하여 내용이 정확하다고 확인했거나 수정 사항을 요청하여 저희가 반영한 것입니다. 확인이 각 문장을 공식적으로 승인한다는 의미는 아니지만, 설명이 논문을 쓴 당사자의 검토를 거쳤다는 뜻입니다.
저자가 검토한 논문 1198편 · 571–580 / 1198
OTTER는 최소한의 토큰 변경을 통해 탐지를 회피하도록 프롬프트를 최적화함으로써 독성 기반 LLM 방어 체계의 취약성을 입증하고, 이를 통해 공격 성공률을 크게 높이며 분류기 강화를 위한 실행 가능한 통찰력을 제공하는 블랙박스 레드팀 프레임워크이다.
이 논문은 저밀도 "노이즈"를 폐기하는 것이 신생 직업의 핵심적인 선행 지표를 간과한다는 것을 입증하는 창발-밀도 역전(Emergence-Density Inversion, EDI) 가설을 제안함으로써 표준 NLP 관행에 도전하며, 이는 분석된 데이터셋 내에서 프롬프트 엔지니어 및 AI 안전 연구가와 같은 새로운 AI 관련 역할의 급격한 안정화를 통해 증명된다.
본 논문은 다양한 보간 문제를 위한 일반적인 존재성 및 유일성 정리를 확립하기 위해 쌍대 공간(dual spaces)을 사용하는 통합된 선형 대수적 프레임워크를 도입하며, 라그랑주 다항식과 에르미트 스플라인부터 삼각 보간 및 이종 센서 데이터에 이르는 응용 분야를 위한 보간법의 효율적인 구축을 가능하게 하는 명시적인 쌍대 기저 공식을 도출한다.
이 논문은 사원수의 정의를 실수에서 가환 단위 환으로 확장하여 그 성질을 일반화하고, 특히 할리돈 환의 맥락 내에서 단위군을 분석한다.
본 논문은 AI 모델 CLAUDE를 사용하여 생성된 Lie Amaldi 분류와 그와 관련된 구조들의 독특한 목록을 제시하며, 이러한 구조적 설명의 정확성을 보장한 방법론과 지침을 설명한다.
본 논문은 Ball Mapper 구축을 가속화하기 위해 볼 트리(ball tree)와 FAISS를 사용하는 정확 및 근사 범위 쿼리 방법을 제안하고 평가하며, 근사 방법이 거짓 양성(false positive)을 유발하지 않으면서 그래프 복잡도를 보수적으로 감소시키는 반면, 그 영향은 데이터셋의 기하학적 구조에 따라 크게 달라짐을 입증한다.
이 논문은 데이터 부족 문제를 극복하고 InSAR를 이용한 딥러닝 기반의 화산 변형 자동 모니터링을 발전시키기 위해, 전문가의 주석과 대기 변수가 포함된 38개의 시공간 데이터큐브로 구성된 전 지구적 멀티모달 데이터셋인 Thalia를 소개한다.
Pixel Watch 2는 10개 채널 멀티패스 PPG 센서와 10,000시간의 다양한 데이터를 통해 학습된 온디바이스 딥러닝 모델을 활용하여 움직임이 많은 활동 중에도 심박수 정확도를 크게 향상시켰으며, 그 결과 이전 기기들에 비해 오차 범위를 실질적으로 줄였습니다.
이 논문은 모션 사전 지식(motion priors)과 행동 매끄러움 패널티(action smoothness penalties)를 통합하여 객체 탐지 바운딩 박스를 정교화함으로써, 보상 간섭과 표현력의 한계를 해결하는 동시에 VOC 및 VisDrone 데이터셋에서 일관된 성능 향상을 달성하는 PPO 기반 강화 학습 에이전트인 MARLNet을 소개한다.
이 연구는 우간다의 소매 시장을 분석하여 취중 상태의 저렴한 비용이 특히 농촌 및 슬럼가에서 비공식 경로와 플라스틱 포장을 통한 저비용·고도 에탄올의 접근성에 의해 유발된다는 점을 입증하며, 이는 알코올 정책이 단순히 음료 가격만을 목표로 하기보다 에탄올 함량과 비공식 시장 규제를 목표로 해야 함을 시사한다.