티스토리

일단 시작하자

검색하기

블로그 홈

일단 시작하자

stop-thinking-start-now.tistory.com/m

Heaea 님의 블로그입니다.

구독자: 3

방명록 방문하기

주요 글 목록

MLOps란? MLOps란?MLOps란 머신 러닝(Machine Learning)과 운영(Operations)을 합친 용어로 프로덕션환경에서 머신 러닝(ML) 모델이 지속적이고 안정적으로 배포되도록 유지, 관리, 모니터링 해주는 것입니다. MLOps는 머신러닝 모델 개발과 운영을 통합해 ML 시스템을 자동으로 유지, 관리, 운영합니다. MLOps의 대상은 머신 러닝 모델을 개발하는 것뿐만 아니라 데이터를 수집하고 분석하는 단계와 학습하여 배포하는 과정, 즉 전체 AI 생애 주기가 포함됩니다. 출처 : elice https://elice.io/ko/newsroom/whats_mlops 개발에도 DevOps가 있듯이 머신러닝 개발에도 MLOps가 있다.인공지능 개발에는 데이터 전처리, 학습, 평가, 추론, 모니터링 등 복.. 공감수 2 댓글수 1 2024. 5. 17.
Javascript로 AI모델 추론 - Read image as float32 with Javascript 대부분 인공지능 모델은 파이썬으로 개발된다.그렇다고 인공지능 모델 서빙을 파이썬 서버로 해야되느냐? 그건아니다.가장 많이 사용되는 추론 서버로는 Nvidia Triton이 있고, 다양한 형태로 서빙될 수 있다. js를 주언어를 사용하고 있는 곳에서는 js로 서빙하고 싶을 수 있다. 그럴때 어떤 모델이든 변환을 도와주는 ONNX를 사용할 수 있다. tensorflow로 학습한 이미지 분류 모델을 js로 변환하여 추론을 하려했다.onnx로 변환은 성공했고, 그 다음 추론을 해보아야하는데 이미지를 float으로 읽어와야하는 문제를 마주했다..!파이썬은 pillow도 있고, opencv도 있고,,(글을 쓰면서 opencv가 python 라이브러리가 아니었다는 사실이 번뜩 떠오르면서 opencv.js 가 있다는.. 공감수 0 댓글수 0 2024. 4. 29.
Stable Diffusion WebUI 설치하고 사용해보기 - Apple Silicon 블로그를 쓰면서 가끔 썸네일 이미지를 생성형 AI를 이용해서 만들어서 사용했다. 주로 DALL-E 2를 이용했는데 원하는 퀄리티의 그림이 잘 안나와서 '무료버전이라 그런가' 생각했다. 그래서 배포된 서비스를 이용하지 말고 직접 모델을 돌리면 나아질까? 싶어서 직접 해보기로 했다. 설치 후 이용해 본 결과 원하는 퀄리티 이미지가 나오지 않는 것은 무료버전이 문제가 아니라 프롬프트의 문제였다. 이것이 프롬프트 엔지니어링의 중요성??!! Stable Diffusion을 WebUI로 제공하는 오픈소스가 있어서 이용했다. Mac을 이용하고 있으니 Apple Silicon에 설치하는 위키에 들어가서 하나씩 환경을 구축했다. Installation on Apple Silicon Stable Diffusion web .. 공감수 1 댓글수 0 2023. 12. 27.
Bytes Are All you Need: Transformers Operating Directly On File Bytes 리뷰 최근 애플에서 발표한 논문으로 기존 이미지 모델에서 이미지 파일들을 RGB 형식으로 디코딩하여 모델에 사용했던 것과 달리 디코딩 과정없이 바이트 형식으로 모델 학습 및 추론을 하는 내용의 연구이다. 바이트 데이터를 이용하여 LLM Transformer를 이용하여 바이트 데이터를 토큰별로 임베딩하여 추론을 진행한다. Bytes Are All You Need: Transformers Operating Directly On File Bytes Modern deep learning approaches usually transform inputs into a modality-specific form. For example, the most common deep learning approach to image cl.. 공감수 0 댓글수 0 2023. 6. 12.
AutoEncoder 실습 In [ ]: import torch from torch import nn import torch.nn.functional as F from torch.utils.data import Dataset, DataLoader from torchvision import datasets import torch.optim as optim from torchvision.transforms import ToTensor import matplotlib.pyplot as plt import numpy as np import json from tqdm.auto import tqdm import time In [ ]: class Config: def __init__(self, path): self.path = path wit.. 공감수 0 댓글수 0 2023. 5. 18.
AE, AutoEncoder AutoEncoder AutoEncoder는 Manifold Learning의 비선형 변환 모델 중 하나로, 비지도 방식으로 신경망을 훈련하여 Encoder를 통해 입력 데이터를 최대한 압축하여 입력데이터를 잘 표현할 수 있는 z 벡터를 만들고 이를 다시 Decoder를 통해 원본 데이터로 복원하는 것을 말한다. AutoEncoder는 Representation Learning으로 구분할 수 있다. Manifold Learning Manifold 란? 모든 데이터를 최대한 오차없이 잘 아우를 수 있는 subspace(부분공간)을 의미 고차원의 manifold를 잘 찾아낸다면, 고차원의 manifold를 저차원으로 압축했을때 각 데이터들의 특징을 유지 stop-thinking-start-now.tistor.. 공감수 0 댓글수 0 2023. 5. 18.
Manifold Learning Manifold 란? 모든 데이터를 최대한 오차없이 잘 아우를 수 있는 subspace(부분공간)을 의미 고차원의 manifold를 잘 찾아낸다면, 고차원의 manifold를 저차원으로 압축했을때 각 데이터들의 특징을 유지하면서 압축이 가능하다. 장점 차원 축소, 의미있는 특징 추출, 데이터 가시화, 차원의 저주 해결 Data compression example : Lossy Image Compression with compressive Autoencoders, '17.03.01 CNN, 오토인토더을 이용하여 jpeg보다 손실이 적은 이미지 압축방식을 제안 Data visualization t-SNE UMAP Curse of dimensinality Manifold Hypothhesis : assumpt.. 공감수 0 댓글수 0 2023. 5. 18.
GAN D : disriminatorr, G : Generative $$ min_G max_V V(D,G) $$ $$ V(D, G) = E_{x~p_{data(x)}}[logD(x)] + E_{z~p_{z(z)}}[log(1-D(G(z))] $$ GAN Tutorial Google Colaboratory Notebook Run, share, and edit Python notebooks colab.research.google.com Coursera | Online Courses & Credentials From Top Educators. Join for Free | Coursera Learn online and earn valuable credentials from top universities like Yal.. 공감수 2 댓글수 0 2023. 5. 17.
TAO Toolkit 관련 자료 TAO TAO Toolkit Quick Start Guide https://docs.nvidia.com/tao/tao-toolkit/text/tao_toolkit_quick_start_guide.html NVIDIA NGC 관련 docs https://ngc.nvidia.com/setup/installers/cli user interaction diagram for the TAO Launcher TAO 사용시 도커 환경 사용을 이해하는데 도움이 되었던 다이어그램 도커를 인터렉티브 모드로 들어가지 않아도 TAO 런처가 실행하고, 디렉토리가 연동되어 사용할 수 있다. TAO Usage Instruction TAO 설치 후 있는 기본 파일에 있는 튜토리얼 쥬피터 노트북에 있는 사용법 순서 목차이다. TAO 뿐.. 공감수 0 댓글수 0 2023. 5. 17.
Human Pose Estimation 개념 사람의 관절, 신체부위 등을 key point로 지정하여 사람의 자세를 예측하는 기술 방식 Bottom-up : 상향식정확도는 top-down 방식에 비해 떨어지지만 detection 과정이 없어 빨라 real - time 에 적용하기 용이 대표적 오픈소스 : Openpose 영상에서 관절을 모두 추출하고, 관절간의 관계를 분석하여 자세를 추정하는 방법 Top down : 하향식multi-person의 경우 detection된 사람마다 crop하여 포즈를 추정하므로 느리다는 단점이 있음대표적 오픈소스 : AlphaPose, Mask-RCNN(Detectron) 정확도는 비교적 높은 편 영상에서 사람을 찾고, 바운딩박스 내부에서 자세를 추정하는 방법 AlphaPose는 multiperson에 대해서 .. 공감수 1 댓글수 1 2023. 4. 6.
딥러닝 강의 비교 정리 : CS231n, EECS 498-007, DS-GA 1008 딥러닝 강의를 사서 들으려니 비싼데, 찾아보니 미국 대학에서 공개된 강의 영상들이 있어서 영어 듣기만 괜찮다면 아주 좋다. 1. CS231n https://www.youtube.com/watch?v=vT1JzLTH4G4&list=PLC1qU-LWwrF64f4QKQT-Vg5Wr4qEE1Zxk 스탠포드 대학 2017년 Justin Johnson 강의 가장 유명한 강의같은데 (Lecture 1 조회수가 200만이 넘는다!) 2017년 강의까지만 공개되어있어 3D vison, Video, 내용이 없고 생성형 모델, 강화학습 비중이 적다. 2. EECS 498-007 https://www.youtube.com/watch?v=dJYGatp4SvA&list=PL5-TkQAfAZFbzxjBHtzdVCWE0Zbhomg7.. 공감수 0 댓글수 0 2023. 3. 21.
NAVER DEVIEW 2023: 네이버 개발자 컨퍼런스 세션 DEVIEW 2023 DEVIEW는 국내외 개발자들이 서로의 지식을 나누고, 탁월함을 추구하며, 함께 성장하는 컨퍼런스 입니다. deview.kr 확실히 인공지능에 대한 세션이 많다 참고 세션 [이미지] ★ 초등학생 AI 모델 고등학교 보내기 (쏘카) : continual learninign, ood(out of detection) .. WebtoonMe 개발기 : 이미지 변환, WebtoonMe, 디퓨전 ★ ClovaVision : stream 영상 처리, 카메라 디바이스, 확장성, 분산처리, segmentation, pose detection Transformer 기반의 Global pLACE Matching 개발기 : OCR, GAN [융합] 축산현장에서의 Deep-tech (한국축산데이터, .. 공감수 0 댓글수 0 2023. 2. 28.
ffmpeg 동영상 코덱 바꾸기 ffmpeg -i input.MOV -codec libx264 output.mp4 공감수 0 댓글수 0 2023. 2. 22.
활성함수 Activation function : GELU ViT 코드 구현실습하다가 마주친 GELU! GELU (Gaussian Error Linear Unit) dropout, zoneout, ReLU 함수의 특성을 조합하여 유도됨 BERT, BERT, ALBERT 등 최신 딥러닝 모델에서 굉장히 많이 사용 def gelu(x): return 0.5*x*(1+tf.tanh(np.sqrt(2/np.pi)*(x+0.044715*tf.pow(x, 3)))) 자세한 내용은 아래 블로그에 잘 설명되어있다! https://hongl.tistory.com/236 그래프 그려보기 import numpy as np import matplotlib.pyplot as plt def gelu(x): return 0.5*x*(1+np.tanh(np.sqrt(2/np.pi)*(x+0.. 공감수 0 댓글수 0 2023. 2. 20.
einops 이미지 패치 자르기 텐서 차원조작을 쉽게 해주는 패키지, einops transformer 공부하며 코드 구현시 필수인게 이미지 패치를 자르는 것인데 이 패키지를 이용하면 매우 쉽게 이용할 수 있다. torch나 tensorflow의 layer처럼 사용할 수도 있다고 한다. import matplotlib.pyplot as plt from PIL import Image from einops import rearrange, reduce, repeat from einops.layers.torch import Rearrange, Reduce # torch layer 처럼 사용가능 from einops.layers.tensorflow import Rearrange, Reduce img = Image.open('./cat.jpg').. 공감수 0 댓글수 0 2023. 2. 20.
벡터 & 실좌표공간 벡터, vector Vector : 크기와 방향을 가지는 가지는 물리량 vector = magnitude + direction -> velocity 더보기 import math import numpy as np import matplotlib.pyplot as plt a = [5,0] b = [3,4] plt.figure(figsize=(6,6)) plt.xlim(-2, 6) plt.ylim(-2, 6) plt.xticks(ticks=np.arange(-2, 6, step=1)) plt.yticks(ticks=np.arange(-2, 6, step=1)) plt.arrow(0, 0, a[0], a[1], head_width = 0.3, head_length = 0.3, color = 'red') plt... 공감수 0 댓글수 0 2023. 2. 20.
ViT : Vision Transformer 이해하기 ViT를 알아보기 전에 Transformer에 대해서 먼저 이해가 필요하다. 1. Transformer RNN과 CNN을 쓰지 않고 Attention과 Fully Connected Layer와 같은 기본 연산만을 이용하여 SOTA 성능을 이끌어낸 연구로 Encoder - Decoder 형식을 사용합니다. Transformer 구조는 Scaled Dot-Product Attention과 이를 병렬로 나열한 Multi-Head Attention 블록이 알고리즘의 핵심이며, normalization, residual connection등이 활용된다. Transformer는 RNN과 같이 시간적 연속성에 구애받지 않고, 병렬 계산이 가능하기 때문에 RNN 구조에 비하여 굉장히 효율적으로 연산할 수 있습니다. ※.. 공감수 0 댓글수 0 2023. 2. 14.
KITTI Dataformat KITTI 데이터 셋은 비전 태스크에 사용되는 데이터 셋이다. 전체 이미지 셋에 대하여 하나의 json 파일로 레이블을 표시하는 coco data set과 달리 이미지 데이터 한 장 당 레이블 txt 파일을 가진다. yolo나 자율 주행 등에서 활용된다. KITTI 형식의 데이터 셋은 위와 같이 생겼다. GitHub - bostondiditeam/kitti: Boston Team for the Udacity/Didi Challenge Boston Team for the Udacity/Didi Challenge. Contribute to bostondiditeam/kitti development by creating an account on GitHub. github.com 위의 레포에서 kitti 레이블.. 공감수 0 댓글수 0 2023. 2. 13.
Image Augmentation: ImageDataGenerator & Albumentation image segmentation을 할 때 마스킹 된 이미지가 부족하면 augmentation을 해주어야 한다. 주의점은 augmentation을 할때 정답이미지와 원본이미지가 동일하게 masking되어야한다. 방법1 Tensorflow ImageDataGenrator 이용하기 ImageDataGenerator를 이용하면 각 이미지별로 랜덤으로 augmentation을 해주는데, flow를 할 때 seed값을 잡아주면 동일하게 augmentation된 결과를 얻을 수 있다 seed = 909 # (IMPORTANT) to transform image and corresponding mask with same augmentation parameter. image_datagen = ImageDataGener.. 공감수 0 댓글수 0 2022. 5. 31.
Image segmentation: U-Net U-Net Biomedical 분야에서 이미지 분할(Image Segmentation)을 목적으로 제안된 End-to-End 방식의 Fully-Convolutional Network 기반 모델 Grand Challenge for Computer-Automated Detection of Caries in Bitewing Radiography at ISBI 2015와 Cell Tracking Challenge at ISBI 2015에서 수상한 모델이다. end-to-end로 이미지를 학습하고 약 30장의 매우 적은 데이터 수로도 학습이 가능하다. 근접해 있는 객체들은 분리해주어야한다. U 모양이라서 U-Net이라는 이름이 붙었다. U-Net은 컨볼루션을 통해서 이미지 피처정보를 추출하고 ( localize).. 공감수 1 댓글수 0 2022. 5. 31.
[CNN] Pooling Pooling, Subsampling CNN과정에서 Convolution Layer를 계속 거치다보면 데이터의 양이 계속적으로 많아진다. 너무 많은 데이터의 양은 학습과정을 방해할 수 있기때문에 데이터의 양을 효율적으로 줄여주는 것이 필요한데, 이를 위해 feature map의 공간해상도(spatial resolution)를 축소시키는 Pooling Layer를 이용한다. Pooling의 기법은 여러가지가 있다 가장 대표적인 Pooling으로 Max Average Min 이 세 가지가 있다. CNN에서는 Max pooling을 선호한다. Max pooling이 feature의 특징을 잘 살려주기 때문이다. pooling은 kernel과 stride 옵션이 있다 kernel은 pooling의 사이즈이고 s.. 공감수 0 댓글수 0 2022. 4. 14.
Computer vision에 들어가기 전 - Digital Image와 처리 computer vision 컴퓨터가 이미지나 비디오를 보고 객체를 식별하고 파악할 수 있도록 지원하는 computer science 분야 Pixel 이미지를 이루는 가장 작은 단위 Image Coordinate; 영상 좌표계 일반적으로 우리가 알고 있는 좌표계는 데카르트 좌표계이다 하지만 이미지의 경우 다른 좌표계를 사용한다. 오른쪽 상단을 기준점으로 잡아 오른쪽, 하단으로 갈 수록 좌표가 커진다. 영상 좌표계를 이용함으로써 이미지를 행렬로 표현할 수 있다. Digital Image의 종류 1.Binary Image pixel의 값이 0(흑)과 1(백)로만 이루어져 있다. ex. 문서, Fax, 청사진 pixel을 표현하는데 1bit만 필요하므로 이미지 크기가 작다고 생각할 수 있지만, 실제 구조상 구.. 공감수 0 댓글수 0 2022. 4. 13.
[ML] Classification Metrics 이전 글에서 회귀 문제의 경우 평가 지표를 알아보았다. 분류 문제에서는 어떤 평가 지표를 사용하는지 알아보자 Confusion Matrix 먼저 confusion matrix를 알 필요가 있다. 실제값이 True일 때, 예측값이 True이면 True Positive, TP 실제값이 False일 때, 예측값이 True이면 False Positive, FP 실제값이 True일 때, 예측값이 False이면 False Negative, FN 실제값이 Negative일 때, 예측값이 Negative이면 True Negative, TN 이렇게 정의한다. True ~~ 일 때 정답을 맞춘 것이다. 참고로 FP(False Positive)의 경우 Type 1 Error라고 하며 FN(False Negative)의 경우.. 공감수 0 댓글수 0 2022. 4. 12.
[ML] Model Evaluation & Regression Metrics Evaluation 만든 모델이 잘 학습되었는지 평가하는 것은 중요하다. 지도학습에서 평가는 예측값과 실제 정답을 비교해서 이뤄지는데 평가시에 학습에 사용한 데이터를 가지고 예측을 진행하고 평가를 하는 것은 조금 이상할 수 있다. 모의고사로 치면 모의고사 답을 미리 알려주고 난 후 시험을 보는 느낌?? 그래서 머신러닝에서는 데이터셋을 나누어 사용을 한다. 원래 가지고 있는 Original Data Set을 train set, test set으로 나눈다. train set은 모델 학습에 이용하면 test set은 모델의 최종 평가에 사용한다. Test Data Set : 모델의 최종 성능을 평가하기 위해 사용 세 번째 줄에 Training set이 또 다시 Training set과 Validatation .. 공감수 0 댓글수 0 2022. 4. 8.
[ML] Linear Regression 구현, sklearn과 비교 단순한 데이터 단순한 데이터를 가지고 단변량 선형회귀분석을 머신러닝 라이브러리를 사용하지 않고 구현해보기 x_data = np.array([1,2,3,4,5], dtype=np.float64).reshape(5,1) y_data = np.array([3,5,7,9,11], dtype=np.float64).reshape(5,1) W = np.random.randn(1,1) # 1행 1열짜리 ndarray, 0과1사이의 균등분포에서 실수 난수 추출 b = np.random.randn(1) # 1차원 # learning rate의 값 설정 learning_rate = 1e-4 print('W : ', W) print('b : ', b) W는 weight, b는 bias를 의미한다 y = Wx + b 이며 lo.. 공감수 0 댓글수 0 2022. 3. 29.
[ML] Linear Regression 회귀란? 쉽게 말하면 어떤 데이터에 대해서 그 데이터에 영향을 주는 조건들의 영향력을 고려하여 데이터에 대한 조건부 평균을 구하는 기법이다. 회귀모델은 여러 조건 하에 평균을 추정할 수 있게하는 효율적인 방법이다. Linear Regression 선형 회귀는 일차식을 이용한 회귀모델이다 독립 변수가 하나일 때는 단변량 선형회귀, 둘 이상일때는 다변량 선형회귀라고 한다. yi=wxi+by_i = wx_i +byi=wxi+b w=weigt,b=biasw = weigt, b= biasw=weigt,b=bias 다음과 같은 데이터가 있을 때 시험점수 몇 점을 받을까를 공부 시간이라는 변수 하나만 가지고 예측하는 것이 단변량 회귀분석이라고 할 수 있다. 이 데이터를 scatter로 시각화하면 다음과 같다. .. 공감수 0 댓글수 0 2022. 3. 28.
파이썬으로 수치미분 구현하기 - 중앙차분 중앙차분 전향차분, 후향차분보다 값이 정확하다. delta x는 10의 -4승, 1e-4 이용 너무 작은 값을 이용하면 실수 계산에서 오류나 나타날 수 있다. 단변수 함수의 수치미분 [함수] f(x) = x^2 f'(x) = 2x def my_func(x): return x **2 def numerical_derivative(f, x): delta_x = 1e-4 return (f(x+delta_x) - f(x-delta_x)) / (2 * delta_x) print(numerical_derivative(my_func, 5) >> 9.999999999976694 numberical_derivative의 인자로 my_funce라는 함수를 넣어주었는데 이는 파이썬이 일급함수(first-classes func.. 공감수 0 댓글수 0 2022. 3. 25.
Machine Learning 개요 AI(artificial Intelligence) 인공지능 → 사람의 사고능력을 구현한 프로그램 Strong AI 사람과 구별할 수 없는 정도의 강한 AI. 전자기적 방식으로 사고하므로 생화학적 방식으로 사고하는 사람보다 100만배정도 사고속도가 빠르다. 만드는 방법조차 모른다 Weak AI 특정 영역에서 잘 동작하는 AI ex. 챗봇, 자율주행, 검색 기존 프로그램 방식 rule based programming | explicit programming 어떠한 조건, 알고리즘에 따라 수행되는 프로그램 방식 이 방식으로는 조건이 너무 많을 때 문제를 해결하는 것이 쉽지 않음 Machince Learning AI를 구현하기 위한 하나의 방법론이다. 데이터를 기반으로 특성과 패턴을 파악하여 모델이라는 결과를 .. 공감수 0 댓글수 0 2022. 3. 24.
기술통계 - 2차원 데이터 2차원(2변수) 데이터 수치지표 : 공분산, 상관계수 그래프 : scatter 공분산 Covariance Sxy=1n∑i=1N(xi−x‾)(yi−y‾)S_{xy} = {1 \over n} \sum_{i=1}^N(x_i - {\overline x})( y_i-{\overline y})Sxy=n1i=1∑N(xi−x)(yi−y) 공분산의 값이 양수 : 양의 상관 관계를 가진다 음수 : 음의 상관 관계를 가진다 0 : 두 변수의 관계가 없다 공분산이 0에 가까울수록 상관 관계가 없다고 말할 수 있다. 공분산의 크기는 상관이 없다. 데이터의 단위가 모두 다르기 때문! 초록선 : 평균 각 점의 x 편차, y편차를 구해 곱하면 면적이 나옴 물론 면적은 음수가 존재하지 않지만, 그렇다치면... 그 면적들을 .. 공감수 0 댓글수 0 2022. 3. 24.
기술통계 - 1차원 데이터 1차원(1변수) 데이터대표값데이터를 하나의 값으로 요약한 지표→평균, 중위값, 최대, 최소,,,,,평균x‾=1n∑i=1nxi=1n(x1+x2+x3+...+xn)\overline {x} = {1 \over n} \sum_{i=1}^nx_i = {1 \over n}(x_1 + x_2 + x_3 + ... + x_n)x=n1i=1∑nxi=n1(x1+x2+x3+...+xn)단점 : 이상치( outlier)에 취약함⇒ 절사평균(Tirmmed mean) : 이상치를 제거한 평균중위값(median) 값들의 중간 값[1, 2, 3, 4, 5, 6, 7] : 4가 중위값[1, 2, 3, 4, 5, 6] : 3과 4의 평균이 중위값최빈값(mode)가장 많이 등장한 값[1, 1, 1, 2, 2, 3] ⇒ 1이.. 공감수 0 댓글수 0 2022. 3. 23.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.