논문만 읽다가 너무 지쳐버려숴...차라리 코드를 좀 짜보자는 생각으로 Zoobot Finetuning에 도전해보았다 🛠 Fine-Tuning 파인튜닝 파인튜닝 많이 들어보긴 했는데정확히 어떤 걸 말하는지, 어떤 구조로 이루어지는지 잘 몰랐어서한번 조사해보았다 Zoobot과 같은 딥러닝 모델들은여러 블록으로 이루어진 인코더 + classification head로 이루어져 있는데 이때 파인튜닝은 크게 아래와 같은 두가지 방식이 있다고 한다1 ) 기존의 모델에서 classification head를 떼고 custom한 classification head를 붙이는 것2 ) 앞단의 인코더 block부터 재학습시키는 것보통 파인튜닝에 사용할 새로운 데이터가 많거나 매우 중요하면 2번의 방식을데이터양이 적고..

🌌 Galaxy mergers in Subaru HSC-SSP: a deep representation learning approach for identification and the role of environment on merger incidence은하 병합 여부 분류 https://arxiv.org/pdf/2309.15539 중요한 부분만 하겠움... 0. Abstract Zoobot이란?Zoobot(Walmsley et al. 2023)은 공개된 사전학습(pretrained) 딥러닝 모델로, 은하 형태 분류(galaxy morphology classification) 문제에 맞게 미세 조정(fine-tuning) 하여 사용할 수 있습니다. 초기 학습 데이터초기 Zoobot 모델은 Gala..

🌌 AttentionAttention Is All You Needhttps://arxiv.org/pdf/1706.03762 🌱 기반 개념 CNN(Convolutional Neural Network)CNN은 데이터가 input된 이후, Convolution -> Pooling의 과정을 여러번 거쳐 feature map을 추출한다이후에 분류 예측이 필요한 경우, 추출한 feature map을 flatten한 뒤MLP의 입력으로 넣어주면 feature가 축소되어 최종적으로는 분류하고자하는 클래스의 수만큼만 남게 된다이 상태에서 분류 예측이 필요한 이미지를 입력해주면 각 클래스로 분류할 확률을 구하고 가장 확률이 높은 클래스를 결과로써 출력한다 Convolution: 입력데이터에 필터를 적용하여 특정 ..

Zoobot 개요 📌 목적Zoobot은 Galaxy Zoo 프로젝트에서 구축한 은하 이미지 분류 모델 은하의 모양 분류 (나선 vs 타원, 바의 유무, 회전 방향 등)구조적 특징 분석Galaxy Zoo 설문 결과 예측 : 사용자 투표 기반1. 은하의 전반적인 형태는 무엇인가요? Smooth / Features or Disk / Star or Artifact2. 은하에 중심 막대 구조가 있나요? Yes / No 3. 은하에 나선 구조가 있나요? Yes / No 4. 나선팔이 몇 개 있나요? 1개 / 2개 / 3개 / 4개 / 5개 이상 / 확실하지 않음5. 은하의 나선팔이 시계 방향으로 감기나요, 반시계 방향으로 감기나요? 시계 방향 / 반시계 방향 / 확실하지 않음6. 은하에 중심 팽대부..

🌌 멀티모달 딥러닝을 활용한 천체 분류CLASSIFICATION OF QUASARS, GALAXIES,AND STARS USING MULTI-MODAL DEEPLEARNINGhttps://arxiv.org/pdf/2205.10745이미지 데이터 + 수치 데이터를 인풋한 멀티모달 AI 연구이기 때문에 우리 연구와 접점이 많을 듯해서 분석해보려고 한다 Abstract / Introduction 연구 목표 : 천체 이미지 데이터와 수치형 데이터를 인풋한 머신러닝, 딥러닝, 멀티모달 딥러닝 모델의 은하, 별, 퀘이사 분류 성능 비교 사용 데이터 : Sloan Digital Sky Survey (SDSS) Data Release 16모델 및 알고리즘 : 머신러닝(수치형 데이터), 딥러닝(이미지 데이터), 멀티..

황호성 교수님의 소개로 서울대학교 천문학과 김이곤, 이가인 연구원님과 면담 시간을 가졌다...! 우선 구체적인 우리의 연구 주제를 소개했답이후에는 이가인 연구원님이 IllustrisTNG 데이터에 대한 설명을 들었구김이곤 연구원님한테 우리가 받은 서버(ultron, exgalcos)의 사용법에 대해 들었다 🔭 TNG 시뮬레이션 소개 및 활용 우주론적 시뮬레이션이란?✅ 기본 개념입자 기반 우주 모델링: 우주를 구성하는 입자들을 정의하고 시뮬레이션 공간에 배치주요 입자: 기체, 별, 블랙홀, 암흑 물질각 입자에 대해 물리 법칙(중력, 유체역학 등)을 적용하여 시간 흐름에 따른 우주 진화를 모사✅ 암흑 물질 vs 일반 물질 (바리온)암흑 물질: 오직 중력만 작용, 빛이나 압력 등과는 상호작용하지 않음바..