논문 링크 : ORAOOD Detection with Relative Angles 논문 리뷰입니다.Motivation기존의 post-hoc OOD detection 연구들은 크게 Logit 기반과 Distance 기반으로 나뉜다. 하지만 저자들은 다음과 같은 문제점을 지적한다:기존 거리 기반 방식의 맹점: KNN이나 Mahalanobis 거리 등은 feature space에서의 거리를 측정하지만, In-distribution(ID) 데이터의 통계적 구조를 효과적으로 반영하지 못하거나 decision boundary와의 관계를 간과하는 경우가 많다.fDBD(Fast Decision Boundary-based Detector)의 한계: 최근 decision boundary까지의 거리를 활용하는 fDBD가 제..

논문 링크 : OPNPOptimal Parameter and Neuron Pruning for Out-of-Distribution Detection 논문 리뷰입니다.Motivation현대의 신경망은 OOD sample에 대해 overconfident한 경향이 있어 ID data와 OOD data의 구분을 어렵게 만든다. 기존 연구의 Training-based method는 OOD sample이 학습 시 필요하며 연산 비용이 높다. Post-hoc method는 추가 학습이 필요 없고 간편하지만, 학습 data에 포함된 Prior information을 충분히 활용하지 못한다. 본 논문에서는 마지막 Fully-connected layer의 parameter Sensitivity를 분석하여 Sensitivi..

[블로그 소개]안녕하세요! 끊임없이 발전하는 AI 기술과 딥러닝(Deep Learning)의 세계를 탐구하는 블로그입니다.이 블로그는 제가 직접 읽고 분석한 최신 AI/ML 논문 리뷰(Paper Reviews)와 학습 과정을 기록하는 아카이브입니다. 복잡한 수식과 이론을 이해하기 쉽게 정리하여 지식을 공유하고, 함께 성장하는 공간이 되기를 바랍니다.주요 다루는 주제:Paper Reviews: Computer Vision, NLP 등 주요 학회(CVPR, NeurIPS 등) 논문 심층 분석Deep Learning Concepts: 딥러닝 기초 이론 및 구현Tech Tips: 개발 환경 세팅 및 Mac 활용 팁방문해 주셔서 감사합니다. 내용에 오류가 있거나 토론하고 싶은 주제가 있다면 언제든 댓글이나 메일로..

논문 링크 : LSNOut-of-Distribution Detection with Negative Prompts 논문 리뷰입니다.Introduction딥러닝 모델은 대규모 라벨 데이터가 주어질 때 놀라운 성능을 보여준다. 하지만 대부분의 방법은 테스트 시점의 클래스가 학습 시점의 클래스와 동일하다는 전제인 closed-set 가정에 기반한다. 문제는, 실제 환경에서는 학습 중 보지 못했던 OOD data가 언제든 나타날 수 있다. 이때, 모델은 ID data도 정확하게, OOD data도 정확하게 분류해야한다. 기존의 많은 OOD detection 방법은 post-hoc 방식을 사용한다. 이 방법의 문제점은 분류에 유용한 feature가 OOD detection에도 유용하다는 보장이 없다는 것이다. 예를..

논문 링크 : BLOODOut-of-Distribution Detection by Leveraging Between-Layer Transformation Smoothness 논문 리뷰 입니다IntroductionMachine Learning model의 성공은 학습 data와 동일한 분포에서 생성된 in-distribution (ID) data에서 평가된다는 가정에 기반한다. 하지만 noise가 존재하고 불완전한 실제 환경에 배포된 model은 종종 서로 다른 분포에서 생성된 Out-of-distribution (OOD) data에 직면하게 되며, 이는 model 성능을 저하시킬 수 있다. 다양한 Task에서 일관되게 SOTA 성능을 보이는 DNN은 OOD detection연구에서 큰 주목을 받아왔다. ..

논문 링크 : A Critical Evaluation of Open-World Machine LearningA Critical Evaluation of Open-World Machine Learning 논문 리뷰입니다.Motivation기존 Open-World ML 연구들은 ID data로 학습된 Closed-world model에 OOD detector를 결합하여, 학습되지 않은 분포의 데이터를 reject하는 방식을 취한다.제한적인 평가 환경: 기존 연구들은 고정된 ID data, model architecture, 한정된 OOD dataset만을 사용하여 성능을 측정Input data가 clean 상태라고 가정하며, data의 Corruption이나 Adversarial Perturbation이 존..

맥북 Finder 드래그 앤 드롭 먹통 현상 해결 방법맥(Mac)을 사용하다 보면 갑자기 파일이나 폴더가 드래그되지 않는 '드래그 앤 드롭(Drag & Drop) 버그'를 경험할 때가 있다. 파일 이동이 불가능해지니 매우 답답한 상황인데, 이는 주로 macOS의 Finder 프로세스가 일시적으로 충돌하거나 꼬였을 때 발생한다.이 문제를 해결하는 가장 확실하고 빠른 방법 2가지를 소개한다.방법 1: 터미널(Terminal)을 이용한 Finder 재실행가장 빠르고 깔끔한 방법은 터미널 명령어를 통해 Finder를 강제로 재시작하는 것.Finder는 종료되어도 OS에 의해 즉시 자동으로 다시 실행되므로 걱정하지 않으셔도 됩니다.Command + Space를 눌러 스포트라이트 검색을 엽니다.Terminal (또..

논문 링크 : HaloScopeHaloScope: Harnessing Unlabeled LLM Generations for Hallucination Detection 논문 리뷰입니다.Introduction오늘날 빠르게 진화하는 machine learning환경에서, LLMs은 다양한 응용 분야를 형성하는 기술로 떠오르고 있다. 그러나 이러한 성능에도 불구하고, Open-world환경에 배포될 경우 모델의 신뢰성과 관련된 여러 도전 과제가 존재한다. 예를 들어, LLM은 인간과의 상호작용 과정에서 겉보기에는 유용해 보이지만 사실과 다른 정보를 생성할 수 있으며, 이는 중요한 의사결정을 위험에 빠뜨릴 수 있다. 따라서 신뢰할 수 있는 LLM은 프롬프트와 일관된 텍스트를 정확히 생성하는 것뿐만 아니라, hal..

논문 링크 : DRLLearning to Shape In-distribution Feature Space for Out-of-distribution Detection 논문 리뷰입니다.Motivation기존의 OOD detection 방법들, 특히 density-based 및 post-hoc method들은 아래와 같은 근본적인 한계점을 가지고 있다.Distributional Mismatch: 기존 방법들은 학습된 feature space에 대해 GMM이나 Gibbs-Boltzmann 분포 같은 특정 분포를 가질 것이라고 사후적으로 가정한다. 하지만 실제 학습된 특징들은 이러한 가정을 따르지 않는 경우가 많아 성능 저하가 발생한다.일반적인 CE loss를 활용한 학습은 classification성능을 최적..