목록전체 글 (96)
짜리몽땅 매거진
머신러닝 기반의 신용 평가 모델링을 진행하고자 두 가지 데이터셋을 준비한다. 아메리칸 익스프레스 주최 파산 예측 경진대회 데이터셋(https://www.kaggle.com/competitions/amex-default-prediction/data)홈 크레딧 경진대회 데이터셋(https://www.kaggle.com/c/home-credit-credit-risk-model-stability/data)두 데이터셋은 실제 금융 데이터에 기반을 둔 광범위 데이터이기 때문에 실습 편의를 위해 데이터를 고객당 하나의 행을 가진 데이터 테이블 형식으로 변환하고, 그 중에서 10만 개의 행을 임의 추출하여 사용할 예정이다. import numpy as npimport pandas as pdimport osfor dir..

1. 파인튜닝(Fine-tuning)이란?파인튜닝은 사전 학습된 모델을 특정한 데이터셋에 맞춰 추가로 학습시키는 과정이다. 이미 대량의 데이터로 학습된 모델의 기본적인 표현학습 능력을 유지하면서, 특정 도메인 또는 특정 태스크에 맞게 미세 조정하는 방식이다.💡 예시:GPT-4를 금융 문서 요약에 맞춰 파인튜닝ResNet을 의료 이미지 분석에 맞춰 파인튜닝BERT를 법률 문서 분류 태스크에 맞춰 파인튜닝2. 파인튜닝의 주요 개념사전 학습(Pre-training)대규모 데이터셋으로 학습한 일반적인 특징을 학습하는 과정예: GPT, BERT, ResNet, EfficientNet 등전이 학습(Transfer Learning)사전 학습된 모델을 특정한 작업에 맞게 재사용기존의 가중치를 활용하여 학습량을 줄이고..

신용 평가 모델 평가 지표신용 평가 모델을 개발하고 최적화하는 과정에서 모델의 성능을 정확하게 평가하는 것은 매우 중요하다. 이를 위해 다양한 평가 지표들이 사용되며, 각 지표는 모델의 다른 측면을 측정하여 모델이 신용 리스크를 얼마나 잘 예측하는지에 대한 통찰을 제공한다.K-S 통계량K-S 통계량은 우량집단과 불량집단 사이의 누적 분포 차이를 최대화하는 값으로 정의된다. 즉 신용 평가 모델이 생성한 점수에 따라 고객을 우량과 불량으로 분류했을 때, 이 두 집단의 누적 분포 곡선 사이의 최대 거리를 K-S 통계량으로 측정한다. 예를 들어 신용 평가 모델의 K-S 통계량이 30이라면, 이는 모델이 우량 고객과 불량 고객을 매우 잘 구분하고 있음을 의미한다. K-S 통계량이 20 이상일 때, 모델의 변별력이..
신용 리스크 관리신용 리스크 관리는 금융 산업의 핵심적인 부분으로, 대출과 투자 과정에서 발생하는 상대방의 미상환 가능성, 즉 신용 위험을 식별, 평가, 모니터링하고 이를 적절히 관리하는 것이 매우 중요하다. 금융 기관은 이 위험을 실질적으로 관리하기 위해 신용 평가 시스템을 리스 관리의 필수 도구로 활용하고 있다. 신용 평가 시스템은 대출 심사부터 신용카드 발급, 대출 금리 산출, 채권투자 결정, 보험료 책정에 이르기까지 금융 분야 전반에 걸쳐 광범위하게 활용된다. 핀테크에서의 신용 평가 모델 활용신용 평가 모델이 전통적인 금융 기업의 도메인에만 머물지 않는 듯 보이는데, 이런 현상은 금융 산업 전반에 걸쳐 혁신적인 변화를 예고한다. 예를 들어 애플 같은 기업이 애플페이와 애플 카드를 통해 금융 서비..

트랜스포머를 이용한 주가 방향성 예측이전 글에서 머신러닝을 이용한 주가 방향성 예측 실습을 진행했다. 이번 장에서는 딥러닝, 특히 트랜스포머 모델을 활용한 주가 방향성 예측 실습을 진행해보려 한다. 트랜스포머 모델은 자연어 처리에서 큰 성과를 거두었지만, 시계열 데이터에서도 효과적으로 사용될 수 있다. import pandas as pdimport numpy as npimport tensorflow as tffrom sklearn.model_selection import train_test_splitfrom sklearn.preprocessing import StandardScalerfrom sklearn.metrics import accuracy_score, confusion_matrix, classi..
지난 포스팅들에서 Transformer 모델의 작동원리와 구조에 대해 살펴보았으니, 이젠 직접 Transformers 라이브러리를 활용해 실습을 진행해보자. Hugging Face(허깅페이스)란 자연어 처리, 이미지 생성모델, 컴퓨터 비전모델 등 다양한 도구와 라이브러리를 제공하는 곳이다. 쉽게 말해서 다양한 인공지능 모델들을 오픈 소스로 제공하는 곳이라고 생각하면 된다. 그래서 허깅페이스에서 제공하는 Transformers 라이브러리를 활용해 실습을 진행해보려 한다. 본격적인 실습 전에 먼저 허깅페이스에 회원가입을 하고 토큰을 발급받아 Hugging Face Hub를 컴퓨터에 설치하자.1. 필수 라이브러리 설치 및 환경 조성pip install transformers datasets accelerat..

금융 시계열 데이터에 대한 교차 검증 방법금융 시계열 데이터는 시간에 따라 연속적인 특성을 가지고 있기 때문에, 전통적인 k-fold 교차 검증 방법은 적합하지 않다. k-fold 교차 검증은 데이터의 순서를 무시하고 무작위로 분할하는데, 이는 시계열 데이터의 시간적 순서를 무시하는 것으로, 미래 데이터가 모델 학습에 포함될 위험이 있다. 금융 시장에서는 미래 데이터를 알 수 없기 때문에, 이러한 방식은 비현실적이다. 금융 시계열 데이터에는 walk-forward 교차 검증과 blocking walk-forward 교차 검증 방법이 적합하다. 이 방법들은 데이터를 시간 순서대로 분할하고, 각 단계에서 모델을 학습시킨 후 바로 다음 시점의 데이터를 사용해 모델을 검증한다. 이는 시간의 순서를 유지하면서 모..

금융 시계열 및 파이썬을 활용한 전통 퀀트 방법 구현금융 투자 데이터 준비1) 데이터 구매 : 블룸버그, Refinitiv(로이터), FnGuide2) 증권사 API : 삼성증권 OpenAPI, 키움증권 API, Alpaca, Upstox3) 금융 웹페이지 크롤링 : 네이버 금융, 야후 파이낸스, 구글 파이낸스4) 금융 데이터 제공 오픈 API 활용 : Alpha Vantage, 퀀들, 야후 파이낸스 가장 쉬운 방법은 FinanceDataReader 라이브러리를 사용하면 누구나 쉽게 금융 투자 데이터를 불러올 수 있다. 거래소별 전체 종목 코드는 StockListing() 함수를 사용하여 한국거래소에 상장된 종목 리스트는 fdr.StockListing('KRX')로, 미국 S&P500에 상장된 종목들은 ..