Replicated

https://github.com/Lagooneng/MatchMakingSvr GitHub - Lagooneng/MatchMakingSvr: C++ TURN-like matchmaking svr (UDP Hole-Punching + UDP relay fallback)C++ TURN-like matchmaking svr (UDP Hole-Punching + UDP relay fallback) - Lagooneng/MatchMakingSvrgithub.com언리얼 엔진 OSS 디버깅 안되는 거 너무 불편해서 그냥 매치메이킹 서버를 만들고자 시도 중이다UDP Hole Punching으로 직접 IP 알아내게 하고 실패 시 릴레이하게 해놨는데..생각해보니 리슨 서버라 릴레이 하는 건 의미가 없긴 한 문제가 있다 ..

검색 증강 생성(RAG)- Retrieval-Agumented Generation- LLM이 모든 지식이 있는 건 아니고 할로시네이션(환각)이 있음- 효과적인 방법이 프롬프트 일부에 지식을 제공하는 것, 이 지식은 컨텍스트의 일부로서 입력됨- 파인 튜닝보다 훨씬 적은 노력과 비용- 정보의 변동성이 큰 분야에 효과적 대응 가능- 최신 정보가 중요한 분야나 특정 도메인의 응용 프로그램에서 큰 강점 RAGFine-tuning정의최신의 외부 데이터에서 적절한 문서 검색 및 답변을 생성해 LLM 모델의 정확성과 신뢰성을 향상시키는 방식사전 학습된 모델에 각 개별 기업의 도메인 특화 데이터를 추가 학습시켜 맞춤형 모델로 업데이트 하는 방식이점외부 데이터에 대한 상시적 접근 가능데이터의 최신성 유지에 용이근거가 확..

AI 에이전트- 사용자를 대신하여 작업을 수행하는 소프트웨어 시스템 또는 프로그램- 자율적으로 행동하며 목표를 설정하고 계획을 세우고 작업을 실행하여 결과를 얻을 수 있음- 능동형 AI AI 에이전트의 주요 특징- 자율성 : AI 에이전트는 사람의 개입없이 독립적으로 작업을 수행- 목표 지향성 : 에이전트는 특정 목표를 설정하고 이를 달성하기 위해 노력- 환경 인식 및 상호 작용 : 주변 환경을 인지하고 데이터를 수집하고 외부 환경과 상호 작용할 수 있음- 학습 능력 : 에이전트는 학습을 통해 지속적으로 성능을 향상 가능- 추론 및 의사 결정 : 복잡한 문제 해결 및 의사 결정을 수행 에이전트의 종류Zero-shot ReAct- 작업과 도구 설명을 보고 사용할 도구를 결정- ReAct는 Reasoning..

Ollama- 사용자가 자신의 컴퓨터에 대규모 언어 모델을 쉽게 설치하고 실행할 수 있도록 돕는 도구- 인터넷 연결 없이도 로컬 환경에서 AI 모델을 활용할 수 있게 해주며 복잡한 LLM 기능을 더 쉽게 사용할 수 있도록 감싸주는 래퍼 역할- 허깅페이스에서 모델을 직접 다운로드하여 사용하는 것보다 훨씬 빠른 처리 속도 제공 Prompt Engineering Prompt- 사용자가 LLM에게 질의 시 제공하는 지침이나 입력의 집합- 모델의 응답을 안내하고 문맥을 이해하며, 질문에 답하거나 문장을 완성하거나 대화를 나누는 등 관련성 있고 일관된 언어 기반 출력을 생성하는데 도움을 주는 역할- 하지만 일반적으로 사용자들이 일반적인 질문을 하게 되면 원하는 결과가 나오지 않는 경우가 많음- prompt engi..

Hugging face기계학습 모델을 구축, 배포 및 교육하기 위한 도구와 리소스를 개발하는 프랑스계 미국 회사이자 오픈 소스 커뮤니티트랜스포머나 데이터셋 같은 AI 프레임워크를 제공하는 세계 최대의 인공지능 플랫폼 중 하나다양한 오픈소스 LLM 모델들과 라이브러리를 제공 모델명meta-llama/Llama-3.1-8B-Instructmeta-llama : 모델 개발업체 / 개발자Llama-3.1-8B-Instruct : 모델명(checkpoint)3.1 : 버전8B : 매개변수의 수Instruct- 있는 것 : 사용자 명령에 반응하는 특화된 훈련을 통해 명령에 더 정확하게 답하거나 특정 작업을 수행하는데 최적화- 없는 것 : 일반적인 언어 패턴을 학습하여 모든 종류의 텍스트 생성에 적합한 범용 모델 *..

Seq2Seq- 번역과 같은 시퀀스 변환 문제를 다루는데 있어 기존 방법론의 비효율성과 한계를 극복하려는 시도 통계 기반 번역의 한계- 방대한 특징 공학- 지역적 문맥 의존성- 희소성 문제 순환 신경망의 고정길이 입력의 한계- 기계 번역처럼 입력 문장의 길이와 출력 문장의 길이가 서로 다른 문제를 효율적으로 다룰 수 있는 일반화된 프레임워크 필요 Seq2Seq는 인코더와 디코더라는 두 개의 모듈로 구성- 인코더는 입력 문장의 모든 단어들을 순차적으로 입력 받은 뒤에 마지막에 이 모든 단어 정보들을 압축해서 하나의 벡터로 만듦->컨텍스트 벡터- 입력 문장의 정보가 하나의 컨텍스트 벡터로 모두 압축되면 인코더는 컨텍스트 벡터를 디코더로 전송- 디코더는 컨텍스트 벡터를 받아서 번역된 단어를 한 개씩 순차적으로..

RNN (Recurrent Neural Network)- 일반적인 신경망에서는 데이터를 입력하면 연산이 입력층에서 은닉층을 거쳐 출력층까지 차근차근 진행되고 이 과정에서 입력 데이터는 모든 노드를 딱 한 번식 지나가게 됨- FFNets는 입력 데이터의 시간 순서를 무시하고 현재 주어진 데이터만 가지고 판단- 입력 데이터의 시간 순서도 반영하여 학습하는 모델이 RNN RNN 기본many-to-one 구조 : 텍스트 분류many-to-many 구조 : 개체명 인식, 품사 태깅one-to-many 구조 : 텍스트 생성, 챗봇LSTM : RNN의 단점 보완 Seq2Seq- 입력된 시퀀스로부터 다른 도메인의 시퀀스를 출력- 인코더-디코더 구조- 챗봇, 기계 번역, 내용 요약, Speech to Text Atten..

자연어 : 우리가 일상 생활에서 사용하는 언어자연어 처리 : 이러한 자연어의 의미를 분석하여 컴퓨터가 처리할 수 있도록 하는 작업 자연어 처리의 어려움- Ambigurity (교착어) : 형태소, 구문, 의미론적 모호성- Variation (다양성) : 시대에 따라 계속 변화하여 확장성, 다양성, 유연성이 필요- Sparsity (언어 모델) : 단어의 의미적인 내용을 컴퓨터가 이해하는 수치화된 의미 벡터로 표현하기 어려움 1950년대 규칙 기반1990년대 통계 시반2013~ 신경망 기반 Corpus (코퍼스, 말뭉치)- 체계적으로 수집되고 구성된 텍스트 모음- NLP 연구를 위해 특정 목적으로 정제한 많은 수의 문장의 집합- 특정 언어, 방언, 주제, 스타일 또는 시대를 대표하는 텍스트들을 포함할 ..