전체 글 10

LLM(대규모 언어모델) 기본 정리

LLM이란 : 대규모 텍스트 데이터를 학습하여 언어의 패턴, 문맥, 의미를 이해하고 이를 바탕으로 텍스트를 생성하거나 질문에 답변할 수 있는 모델. 번역, 요약, 문법 교정, 텍스트 생성 등 다양한 작업을 처리 가능 LLM의 구조와 작동 원리 : LLM의 작동 원리는 주로 Transformer 아키텍처에 기반Transformer : Attention is All You Need"에서 소개된 딥러닝 모델 구조 [ Transformer의 핵심 구성 요소 ] 입력 임베딩(Input Embedding): 텍스트 데이터를 숫자 벡터로 변환. 각 단어를 고유한 벡터로 표현하여 모델이 처리할 수 있도록 만듬. Self-Attention 메커니즘 : 입력된 단어들 간의 관계를 계산하여 문맥을 이해. 포지셔널 인코딩(P..

심층신경망 2025.02.16

파일시스템

파일 시스템: 파일관리자를 두어 저장장치의 관리를 맡기는 시스템(사용자가 직접 파일을 보관하지 않음->시스템 자원 보호)파일 관리자는 파일 테이블을 사용하여 파일을 관리사용자가 특정 파일에 접근하려면 : 파일관리자로부터 파일에 접근할 수 있는 권한을 획득해야 함기능설명파일 구성사용자의 요구에 따라 파일과 디렉터리를 만든다파일 관리파일 생성, 수정, 삭제 등의 관리를 하고수시로 조각모음을 하여(디스크 수명저하)사용자가 파일에 빨리 접근할 수 있도록 한다접근 권한관리다른 사용자로부터 파일을 보호하기 위해 접근 권한을 관리한다접근 방법제공파일을 읽고 쓰고 실행할 수 있도록 사용자에게 접근 방법을 제공한다무결성 보장파일의 내용이 손상되지 않도록 무결성을 보장한다백업과 복구사고로부터 파일을 보호하기 위해 백업과 ..

운영체제 2025.02.02

입출력 시스템과 저장장치

저속 주변장치 : 키보드, 마우스...고속 주변장치 : 그래픽 카드, 하드 디스크... 단일 버스로 주변장치를 묶으면 저속장치가 고속장치의 데이터 전송 방해→ 속도에 따라 버스를 분리하여 운영할 필요가 있음 대용량 데이터 전송 : 그래픽 카드/하드디스크중간 데이터 전송 : SB메모리저용량 데이터 전송 : 프린트 ,키보드, 마우스 채널: 데이터가 지나다니는 하나의 통로채널 공유와 채널 분리: 채널을 모든 주변장치가 공유하면 전체적을 데이터 전송 속도가 느려짐 속도가 비슷한 장치끼리 채널을 할당하면 전체 데이터 전송속도가 향상될 수 있음 [초기의 입출력 버스 구조]모든 장치(cpu,메모리 포함)가 하나의 버스로 연결됨polling방식 이용 : cpu가 작업을 진행중 입출력 명령을 만나면 직접 입출력장치에서 ..

운영체제 2025.01.18

CPU스케줄링

cpu스케줄러 : cpu에서 실행될 프로세스를 선택. cpu와 시스템 자원의 배정을 결정 (여러 프로세스의 상황을 고려) [스케줄링의 단계] 고수준 스케줄링 : 어떤 작업을 시스템이 받아들일지 거부할지에 대한 운영 정책을 결정시스템 내의 전체 작업수를 조절/시스템 내에서 동시 실행 가능한 프로세스의 총개수를 지정 저수준 스케줄링 : 어떤 프로세스에 cpu를 할당하고,어떤 프로세스를 대기 상태로 보낼지 등을 결정(가장 작은 단위의 스케줄링)  중간수준 스케줄링 : 보류와 활성화로 전체 시스템의 활성화된 프로세스 수를 조절(시스템의 과부하 방지)일부 실행 상태의 프로세스를 보류 상태로 전환(나머지 프로세스가 원만하게 작동하도록 지원/상황에 따라 보류상태의 프로세스를 다시 활성화) 저수준 스케줄링이 원만하게 ..

카테고리 없음 2025.01.05

프로세스 동기화

[프로세스 간 통신의 종류] 프로세스 내부 데이터 통신: 하나의 프로세스 내에 2개 이상의 스레드가 존재하는 때의 통신프로세스 내부의 스레드는 전역변수나 파일등을 이용하여 데이터를 교환 프로세스 간 데이터 통신: 같은 컴퓨터에 있는 여러 프로세스끼리 통신하는 경우공용파일 또는 운영체제가 제공하는 파이프를 사용하여 통신 ex)클립보드 네트워크를 이용한 데이터 통신: 여러 컴퓨터가 네트워크로 연결되어 있을 때 통신주로 소켓 통신을 이용하여 데이터를 주고받음 [통신 방향에 따른 분류]양방향 통신: 데이터를 동시에 언제든 양쪽 방향으로 전송 가능일반적인 통신은 모두 양방향 통신   ex) 소켓 ,일반적 통신 반 양방향 통신: 데이터를 양쪽 방향으로 전송 가능하지만 동시 전송은 불가능(특정 시점에 한쪽 방향으로만..

운영체제 2024.12.22

컴퓨터의 구성

필수장치:  중앙처리장치(CPU), 메인 메모리(RAM)주변장치:  입력장치, 출력장치, 저장장치   CPU(central processing unit) : 명령어를 해석하여 실행하는 장치.  두뇌와 같은 역할  RAM(random acces memory) : 작업에 필요한 프로그램과 데이터를 저장하는 장소바이트 단위로 분할되어 있으며 분할 공간마다 주소로 구분전원이 꺼지면 데이터도 사라짐 입출력 장치 입력장치: 외부의 데이터를 컴퓨터에 입력하는 장치 출력장치: 컴퓨터에서 처리한 결과를 사용자가 원하는 형태로 표현하는 장치 저장장치: 메모리보다 느리지만 저렴하고 용량이 큼(저장 용량에 비해 가격이 싸기 때문)전원이 꺼져도 데이터를 영구적으로 저장종류>- 자성 이용 : 플로피 디스크,하드디스크드라이브/HD..

운영체제 2024.11.24

머신러닝의 종류와 선형회귀(Linear Regression), Single Neuron으로 확장

supervised learning(지도학습) : label(정답)이 있는 상태로 학습  supervised learning 종류  - Regression : 입력에 대한 특정 제한 사항은 없으나 출력값은 실수형(연속적)이며 유한하지 않아도 된다.주가, 날씨등 예측에 이용 - Classification : 입력에 대한 특정 제한 사항은 없으나 출력값은 정수형(discrete)이다.얼굴 인식이나 불량 검출 등에 이용  unsupervised learning(비지도학습) : label(정답)이 없는 상태로 학습 unsupervised learning 종류  - Clustering 비슷한 군집으로 묶임ex) 고객 그룹화, 질병분석 - Association 군집끼리 상관관계 분석ex) 추천   [ supervi..

심층신경망 2024.11.10

운영체제의 역할

컴퓨터의 종류 1. 범용 컴퓨터(general computer): 프로그램을 설치하여 자유롭게 사용     - 웹서핑, 문서작성, 동영상 재생 등 2. 임베디드 시스템(embedded system): 특수목적으로 사용     - 스마트워치 등 기기에 탑재된 컴퓨터     - 일반적으로 cpu성능이 낮고 메모리 크기가 작음 IT(information technology) : 데이터를 가공하여 가치있는 정보로 만드는 기술하드웨어: 실체를 가진 기계소프트웨어(=프로그램): 하드웨어를 제어하여 작업을 수행하는 명령어들의 모음펌웨어(firmware): 소프트웨어와 하드웨어의 특성을 모두 갖춘 형태로 운영됨 응용프로그램: 문서 작성과 같은 특정 작업을 위해 사용하는 프로그램시스템 소프트웨어: 하드웨어와 응용 프로그..

운영체제 2024.10.27

다짐 글

24년 4분기 계획과 25년을 기다리며 내가 해야 할 일에 대해서 생각해보자 글을 써본다.  1. 글또 활동 블로그 운영 계획 우선 내 전공 내용을 정리한 글을 써보자고 생각했다. 내가 쓰면서도 복습이 될 수 있고, 필요할 때마다 내용을 찾아볼 수 있으며, AI에 관련된 지식을 쌓고 싶은 사람에게도 도움이 될 거라 생각한다.올릴 항목은 컴퓨터 기본구조와 운영체제 데이터정제와 데이터모델링 심층신경망 컴퓨터비전 등을 올릴 계획이다. 수학관련된 분야도 올리고 싶으나 문자 변환이 쉽지 않을 듯 하다. 그 다음은 내 취미 생활과 관련된 글을 정리 할 예정인데, 그 이유는 내용을 정리하며 내용을 머리에 익히기 위해서이다. 난 뭘 하나 진득하게 하기를 어려워 하는 사람이기 때문에 해당내용을 타이핑 하며 머릿속에 넣으..

카테고리 없음 2024.10.13

글또 지원 [삶의 지도]

난 어렸을 적 집중을 잘 하지 못하는 학생이었다. 수업을 들어본 기억이 손에 꼽힐 정도로 학업에 어려움이 있었지만, 단기 집중력 덕에 무난한 학교생활을 했던 것 같다. 중학생 때까진 그게 통하더라. 하지만 고등학교 때 집중력 문제가 더 심해지고 가정이나 학교생활에 어려움을 느끼면서 공부는 뒷전으로 두고 살게 되었다.뭔가 잘하고 싶은데 앉아있으면 너무 답답하고 조금이라도 집중하는 것이 되질 않았기 때문에 난독증세도 더 심해졌다. 남들이 재밌어한다는 게임조차도 관심이 가지 않았다. 그래서 그 시절엔 글은 하나도 안 읽고 예쁜 그림들만 봤다. 그림은 직관적이니까. 전문대를 졸업한 이후 집안에 재정적인 도움이 되고자 식품회사에 다니게 되었다. 회사 생활을 통해 제가 생각보다 일머리가 있는 사람이라는 것을 알게 ..

카테고리 없음 2024.09.21