llm 썸네일형 리스트형 numpy만으로 가장 간단한 LLM을 만들어보자 #2 (파이썬 초보 가능) 아래 소스코드는 내가 정말 할 수 있는한 가장 짧고 간단하게만 만들어본 LLM 기본 코드이다. 물론 사이즈가 작으니 LLM(대형 언어 모델)이 아니라 SLM이나 Tiny LM이라고 불러야 할 것 이다. 학습 데이터는 첨부해두었다. 그냥 맛뵈기이므로 테일러 스위프트의 노래 가사 하나를 넣었다. 정제코드 작성을 생략하기 위해 특수문자나 눌나눔 등이 모두 정제된, 정말 처리하기 쉬운 텍스트를 사용하겠다. import numpy as npwith open("lyrics.txt", "r", encoding="utf-8") as f: text = f.read()words = text.strip().split()vocab = sorted(set(words))vocab_size = len(vocab)block_.. 더보기 이전 1 다음
