전체 글71 GStreamer 입문 2편: 실시간 딥러닝 추론 파이프라인 구축 요약GStreamer의 appsink와 appsrc를 활용해 영상 스트림 중간에 딥러닝 추론을 끼워넣는 방법을 다룹니다. RTSP 입력 → YOLO 객체 탐지 → 바운딩 박스 오버레이 → 화면 출력까지 완전한 파이프라인을 구현합니다. 왜 GStreamer로 딥러닝 파이프라인을 만드는가OpenCV의 VideoCapture로도 영상을 읽고 추론할 수 있습니다. 그런데 실무에서는 금방 한계에 부딪힙니다.OpenCV만 쓸 때 겪는 문제들:# 전형적인 OpenCV 코드cap = cv2.VideoCapture("rtsp://...")while True: ret, frame = cap.read() # CPU 디코딩, 병목 발생 result = model(frame) # 추론 cv2.imsho.. 2026. 1. 10. GGUF: 로컬 LLM 실행을 위한 표준 모델 포맷 요약GGUF(GPT-Generated Unified Format)는 llama.cpp 생태계에서 사용하는 모델 저장 포맷입니다. 양자화된 LLM을 단일 파일로 배포할 수 있고, CPU/GPU 환경에서 효율적으로 추론할 수 있도록 설계되었습니다. Hugging Face에서 -GGUF가 붙은 모델을 본 적 있다면, 바로 이 포맷입니다.왜 GGUF를 알아야 하는가요즘 LLM을 로컬에서 돌리는 수요가 급증했습니다. 클라우드 API 비용, 데이터 프라이버시, 오프라인 사용 등 이유는 다양합니다. 문제는 Llama 70B 같은 모델이 140GB가 넘는다는 점입니다. 일반 소비자 GPU로는 감당이 안 됩니다.이 문제를 해결하는 방법이 양자화(Quantization)인데, 양자화된 모델을 어떤 포맷으로 저장하고 불러올.. 2026. 1. 9. GStreamer 입문: 멀티미디어 파이프라인의 레고 블록 요약GStreamer는 미디어 처리를 위한 오픈소스 프레임워크입니다. 영상 재생, 변환, 스트리밍 같은 복잡한 작업을 레고 블록 조립하듯 구성할 수 있습니다. NVIDIA DeepStream, ROS2 영상 처리, 방송 시스템 등 실무에서 광범위하게 사용됩니다. 왜 GStreamer를 알아야 하는가영상 처리 코드를 직접 짜본 적 있다면, 금방 벽에 부딪힙니다. 코덱 디코딩, 하드웨어 가속, 포맷 변환, 동기화... 이걸 전부 OpenCV의 VideoCapture로 해결하려면 한계가 명확합니다.실무에서 마주치는 상황들:RTSP 카메라 8대를 동시에 받아서 추론 파이프라인에 연결해야 할 때H.265로 인코딩된 4K 영상을 GPU 디코딩해서 딥러닝 모델에 넣어야 할 때추론 결과를 다시 RTMP로 스트리밍해야 .. 2026. 1. 8. manylinux: Python 패키지가 "내 컴퓨터에서는 되는데"를 벗어나는 법 요약Linux에서 Python 패키지를 배포할 때 가장 흔히 마주치는 문제가 glibc 버전 호환성입니다. manylinux는 이 문제를 해결하기 위한 PEP 표준으로, 특정 조건을 만족하는 wheel 파일이 대부분의 Linux 배포판에서 동작하도록 보장합니다. PyTorch, NumPy, TensorFlow 같은 대형 패키지들이 pip install만으로 설치되는 이유가 바로 이것입니다. 왜 manylinux가 필요한가Linux 배포의 현실Windows나 macOS와 달리 Linux는 수백 개의 배포판이 존재합니다. Ubuntu, CentOS, Fedora, Debian, Arch... 각각 시스템 라이브러리 버전이 다릅니다.C/C++ 확장 모듈을 포함한 Python 패키지를 빌드하면, 빌드 환경의 g.. 2026. 1. 7. NVIDIA Isaac ROS: GPU 가속 로보틱스의 실전 가이드 요약Isaac ROS는 NVIDIA가 개발한 ROS 2 기반 하드웨어 가속 패키지 모음입니다. 기존 ROS 노드들이 CPU에서 처리하던 인지(Perception), SLAM, 내비게이션 작업을 GPU/DLA로 오프로드하여 실시간 성능을 확보합니다. Jetson 플랫폼에서 로보틱스 애플리케이션을 개발한다면 반드시 알아야 할 프레임워크입니다. 1. 왜 Isaac ROS인가로보틱스의 실시간 병목자율주행 로봇을 만든다고 가정해봅시다. 카메라에서 들어오는 영상을 분석하고, LiDAR 포인트 클라우드를 처리하고, 장애물을 탐지하고, 경로를 계획해야 합니다. 이 모든 작업이 수십 밀리초 안에 끝나야 로봇이 제때 반응할 수 있습니다.문제는 전통적인 ROS 노드들이 대부분 CPU 기반이라는 점입니다:작업CPU 처리 시간.. 2026. 1. 5. DETR: Anchor도 NMS도 없는 객체 탐지의 새로운 패러다임 요약DETR(Detection Transformer)은 객체 탐지를 집합 예측(Set Prediction) 문제로 재정의하여, 기존 탐지기의 복잡한 파이프라인(Anchor 생성, NMS 후처리 등)을 완전히 제거한 End-to-End 모델입니다. Transformer의 어텐션 메커니즘과 이분 매칭(Bipartite Matching) 기반 손실 함수를 통해, 깔끔하면서도 경쟁력 있는 성능을 보여줍니다.1. 배경: 기존 객체 탐지의 복잡성Anchor 기반 탐지기의 문제2020년 이전의 객체 탐지는 대부분 Anchor 기반 방식을 따랐습니다. Faster R-CNN, RetinaNet, YOLO 등 거의 모든 SOTA 모델이 이 패러다임 안에 있었습니다.이 방식의 파이프라인을 살펴보면:입력 이미지 ↓CN.. 2026. 1. 2. 이전 1 2 3 4 ··· 12 다음