본문 바로가기

Tip6

Ollama 프라이빗 네트워크 환경 에서 LLM 구축 사용해보기 오늘은 간단하게 프라이빗 환경에서 회사문서나 개인적인 문서들을 AI LLM모델에 업로드하고 해당 문서들을 기반으로 질의하면 너무나 좋을것 같다는 궁금증에 로컬 프라이빗 LLM구축을 시도를 해보았습니다! 제가 이번에 사용한 솔루션들은 다음과 같습니다. Ollama, Llama3.1, Open Web Ui Ollama는 다양한 오픈소스 LLM을 간단하게 실행하고 관리할 수 있게 도와줍니다. Llama 3.1은 우리가 너무나 잘 알고있는 Meta 페이스북에서 개발한 언어모델입니다. Llama 3.1은 제가 자주 방문하는 커뮤니티에서 입소문이 자자하기도 하고 혹여나 보안적인 정보들을 학습시켜도 괜찮은 신뢰도가 있는 프로젝트로 시도해 보았습니다. 제가 LLM을 구동하는 하드웨어는 맥북 M2 16gb ram 모델로.. 2025. 5. 11.
PostMan으로 GraphQL요청 하기 오늘은 GraphQL개발을 진행하며 요청과 응답을 클라이언트 관점에서 확인해 볼 수 있도록 PostMan을 활용하여 서버로 요청을 보내는 법을 공유해 보도록 하겠습니다.RestApi를 개발해오며 정말 많이 사용한 PostMan입니다. 예전에 PostMan으로 gRPC요청도 해보았는데 PostMan으로 GraphQL요청 또한 손쉽게 가능합니다.요청할 서버는 localhost:8080 로컬환경입니다. GraphQL은 한개의 엔드포인트만 갖기에 graphql로 요청을 보낼 수 있도록 설정합니다. 또한 GraphQL은 본질적으로 HTTP 프로토콜 이기 때문에 GET, POST를 설정할 수 있습니다. 다만 일반적으로 GET요청에 대한 한계가 있기 때문에 대부분 GraphQL 요청은 POST로 처리합니다. 이 부분.. 2025. 5. 6.
Docker ugeek/webdav를 이용한 간편한 WebDav서버 구축 오늘은 간편하게 Docker ugeek/webdav 이미지를 활용하여 간편하게 WebDav서버를 구축하는 방법을 알려드리겠습니다. WebDav는 Http프로토콜을 통해 원격 파일 시스템에 대한 액세스와 관리 기능을 제공하는 표준입니다. 말이 어렵지만 그냥 손쉽게 설명하자면 파일 서버라고 생각하시면 편합니다.구글 드라이브를 사용하고 있기에 그닥 필요는 없었지만.. 최근 아이폰, 아이패드에서 사용하고 있는 nPlayer의 구글 드라이브 연동이 막혀버리는 바람에..막혔다기보다 유지보수를 안하고 있어서 구글드라이브 Api연동관련해서 문제가 발생하고 있나봅니다.. nPlayer에서 구글드라이브에 접근하면 차단된 앱이라는 안내만 나오고 인터넷에 나오는 각종 방법으로 시도했음에도 접속이 불가능 하더군요. 구글드라이브.. 2024. 11. 12.
PostMan으로 gRPC요청 하기 최근에 gRPC를 통한 서버간 통신을 구현해보기 위해 Spring Boot로 gRPC서버를 구현해 보았습니다.일반적으로 http 프로토콜을 통한 Rest Api를 테스트할때는 여러 방법이 있지만 그중 많이 사용한 툴은 PostMan인데 gRPC또한 PostMan으로 테스트가 가능하더군요. 그래서 오늘은 간략하게 PostMan을 통한 gRPC통신을 하는 방법을 공유해볼까 합니다. application.ymlgrpc:  server:    port: 5043먼저 Spring Boot  gRPC 서버 환경은 다음과 같습니다. gRPC 프로토콜 포트는 5043입니다.delivery.protosyntax = "proto3";option java_multiple_files = true;option java_pack.. 2024. 7. 1.
intelillJ, webStorm 윈도우 oh my posh 터미널 오류 메인 랩탑을 맥북에서 윈도우 씽크패드로 변경후 개발 환경을 구성하던 도중 윈도우 powerShell을 가독성 있게 꾸밀 수 있는 oh my posh이 powerShell로 실행할때는 문제가 없었지만 이상하게도 intelillJ, webStorm IDE 내부 터미널에서 실행할때만 oh my posh를 찾을 수 없다는 오류가 발생했었습니다..PowerShell 7.4.2oh-my-posh: C:\Users\THINKPAD-WINDOWS\Documents\PowerShell\Microsoft.PowerShell_profile.ps1:1Line | 1 | oh-my-posh init pwsh --config "$env:POSH_THEMES_PATH\easy-term.omp.js … | ~~~~~~.. 2024. 6. 9.
개발을 공부하기까지 노트북을 고민하는 분들에게 with OS에 대한 고민 컴퓨터를 처음 배우던 학부때 어떤 노트북을 구매해야할까?항상 코딩을 하기전에 장비선택에 이것저것 너무 고민을 했던 생각이 듭니다. 개발자니까 맥북을 써야하는게 아닐까? 윈도우로는 개발이 어렵다고 알고있는데..그렇다고 맥북을 구매하기에 목돈도 들어가기도 하고.. 저도 정말 고민을 많이했던 부분들이기에 개발 공부를 위한 장비를고민하는분들에게 도움이 되고자 글을 작성해봅니다.  가장 많이 고민하는 부분은 맥북과 윈도우 노트북에대한 고민일겁니다.사실 간단하게 설명하면 맥북은 윈도우와 관련된 플랫폼을 제외한 모든 개발을 할 수 있고윈도우도 애플과 관련된 플랫폼을 제외한 모든 개발을 진행할 수 있습니다. ※ 아래는 윈도우 OS에서 불가능한 개발항목 입니다 1. 맥북 어플리케이션 개발2. 아이폰 IOS 어플리케이션 .. 2024. 5. 27.