Przegląd projektu
Opracowaliśmy kompleksową platformę do zarządzania portfelem kryptowalut, która rozwiązuje problem fragmentacji śledzenia aktywów kryptograficznych na wielu giełdach i protokołach DeFi. Platforma konsoliduje dane portfelowe z 47 różnych giełd i dostawców portfeli, zarządzając aktywami o wartości ponad 2,3 mld dolarów, jednocześnie zapewniając analizę ryzyka w czasie rzeczywistym i automatyczne raportowanie zgodności dla instytucjonalnych zarządzających portfelami.
Wyzwanie
Widoczność portfeli inwestycyjnych była niejednolita w różnych giełdach i wśród dostawców portfeli, co utrudniało monitorowanie ryzyka i wyników zarówno inwestorom detalicznym, jak i na rynku kryptowalut.
Fragmentacja rynku Świat kryptowalut funkcjonuje w ramach systemu giełd i opcji przechowywania, które nie są ze sobą połączone, tak jak systemy finansowe ze swoimi standardowymi przepływami danych i rozliczeniami. Zamiast tego aktywa kryptograficzne są przechowywane w oddzielnych podmiotach o różnych normach API i procesach uwierzytelniania, co skutkuje fragmentacją struktur i formatów informacji.
Wpływ zmienności Złożoność zwiększa wpływ zmienności rynku na aktywa takie jak Bitcoin i altcoiny, które mogą wykazywać wahania w okresach przekraczających 80%. Aby skutecznie zarządzać tymi aktywami i szybko podejmować decyzje na zmieniających się rynkach, zarządzający portfelami muszą mieć stały dostęp do danych dotyczących pozycji i wskaźników ryzyka oraz być świadomi korelacji między aktywami.
Złożoność zgodności z przepisami Poruszanie się po obowiązkach komplikuje sprawę. Śledzenie szczegółów podatkowych w różnych regionach wymaga monitorowania kosztów wielu małych transakcji. Podmioty finansowe są zobowiązane do prowadzenia dokumentacji w celu przestrzegania przepisów i regulacji dotyczących przeciwdziałania praniu pieniędzy (AML) oraz poznawania klientów (KYC).
Zidentyfikowane kluczowe problemy
Zarządzający portfelami napotkali przeszkody, których nie można było pokonać za pomocą konwencjonalnych instrumentów inwestycyjnych:
- Zarządzanie inwestycjami rozłożonymi na platformach takich jak Binance i Coinbase Pro oraz korzystanie z portfeli sprzętowych, takich jak Ledger i protokoły DeFi, spowodowało utrudnienia w analizie portfela z powodu fragmentacji danych
- Ręczne śledzenie tych inwestycji za pomocą arkuszy kalkulacyjnych prowadziło do 15-20% błędów spowodowanych przeoczeniem transakcji i nieaktualnymi danymi cenowymi.
- Proces podejmowania decyzji w dynamicznym środowisku, takim jak handel kryptowalutami, ma kluczowe znaczenie ze względu na funkcjonowanie rynku i gwałtowne wahania cen, które często przekraczają 10% w ciągu kilku minut
Niedokładne lub opóźnione informacje dotyczące portfela mogą skutkować nieoptymalnymi decyzjami handlowymi i wyższymi kosztami poślizgu.
Obciążenie operacyjne
Obciążenie operacyjne
- W okresach napięć rynkowych, kiedy korelacje między aktywami wzrosły z powodu braku analizy korelacji w czasie rzeczywistym i wartości zagrożonej (VaR), portfele zawierały ryzykowne koncentracje aktywów skorelowanych
- Obciążenie operacyjne związane z uzgadnianiem zadań wynosiło 8–12 godzin tygodniowo dla każdego zarządzającego portfelem, co wymagało pomocy księgowej w obliczeniach kosztów niezbędnych do celów podatkowych.
- Dylemat równowagi między bezpieczeństwem a dostępnością: surowe środki bezpieczeństwa dotyczące przechowywania danych kolidowały z potrzebą natychmiastowej aktualizacji portfela i szybkiego przeprowadzania transakcji handlowych
Wyniki rozwiązania
Konsolidacja portfela Menedżerowie uzyskali wgląd w aktywa o wartości 2,3 mld dolarów, konsolidując dane z 47 giełd i dostawców portfeli w celu wyeliminowania martwych punktów w portfelu.
Redukcja kosztów
- Dzięki automatycznemu uzgadnianiu i natychmiastowej synchronizacji udało się obniżyć koszty o 75%
- Ta zmiana pozwoliła menedżerom portfela poświęcić czas na planowanie, zamiast zajmować się gromadzeniem danych.
- Oszczędności kosztów osiągnięte dzięki wdrożeniu ograniczeń szybkości API i buforowania spowodowały 62% redukcję wydatków na dane stron trzecich, a także skrócenie czasu odpowiedzi z 2,5 sekundy do 340 milisekund
Poprawa wydajności
- Zwiększono zwroty skorygowane o ryzyko o 23% dzięki zastosowaniu analizy korelacji i systemów wczesnego ostrzegania do zarządzania ryzykiem koncentracji portfela
- Usprawnienie raportowania zgodności z przepisami pozwoliło skrócić czas potrzebny na wykonanie tej czynności z 40 godzin do 3 godzin na kwartał dzięki wykorzystaniu automatycznego śledzenia kosztów i wydajnemu generowaniu raportów.
- Zmniejszenie kosztów transakcyjnych o 31% dzięki wykorzystaniu routingu realizacji zleceń i identyfikacji możliwości arbitrażu w czasie rzeczywistym na różnych platformach transakcyjnych
Zaawansowane zabezpieczenia i wydajność
99.98% czasu działania dzięki funkcjom bezpieczeństwa klasy korporacyjnej i standardom zgodności z przepisami.
Architektura techniczna
Projekt systemu W systemie zastosowano projekt mikrousług wraz z synchronizacją danych opartą na zdarzeniach, aby skutecznie rozwiązać problem konsolidacji portfela, koncentrując się na stworzeniu podstawy danych do obsługi różnych struktur API i oferowaniu spójnych perspektyw portfela niezależnie od konfiguracji przechowywania.
Kluczowe cechy techniczne
- Wybór architektury oparty na spójności ostatecznej zamiast zasadach ACID w celu skutecznego zarządzania ograniczeniami API giełdy i partycjami sieciowymi
- System wykorzystywał metodę zwaną „warstwowym ulepszaniem danych”, aby zapewnić synchronizację podstawowych danych dotyczących pozycji w czasie rzeczywistym, umożliwiając jednocześnie asynchroniczne obliczanie złożonych analiz
- Granice bezpieczeństwa dostosowane do wielu najemców służą ochronie danych klientów i skutecznej promocji efektywności wykorzystania zasobów.
Przetwarzanie danych Zaawansowany silnik analityczny przetwarza 2 300 000 danych cenowych dziennie, umożliwiając płynne wdrażanie analizy ryzyka i zautomatyzowanych strategii dostosowawczych.
Proces wdrażania
Wstępna konfiguracja Projekt rozpoczął się od skonfigurowania potoku danych i struktury bezpieczeństwa. Wdrożyliśmy klastry Kubernetes w trzech strefach dostępności z automatycznymi funkcjami przełączania awaryjnego. Naszym pierwszym zadaniem była integracja z 5 największymi giełdami pod względem wolumenu obrotu:
- Binance
- Coinbase
- Kraken
- Bitfinex
- Huobi
Architektura bazy danych Zespół podjął strategiczne decyzje, takie jak wybór PostgreSQL zamiast opcji NoSQL do zarządzania danymi portfela, biorąc pod uwagę konieczność zgodności z ACID w metodach przechowywania informacji finansowych. Podzielił również bazę danych według identyfikatorów klientów, aby umożliwić rozwój przy jednoczesnym zapewnieniu transakcji w ramach każdego segmentu portfela.
Zarządzanie jakością danych System analizy danych wykorzystywał podejście Apache Kafka „exactly-once delivery”, aby uniknąć powielania transakcji. Zadania przetwarzania strumieniowego obliczały natychmiast sumy, kwoty zysków lub strat oraz procentowe udziały w portfelu.
Najważniejsze dostarczone funkcje
Zarządzanie ryzykiem
- Analiza korelacji w czasie rzeczywistym i obliczenia wartości zagrożonej (VaR)
- Funkcje automatycznego równoważenia powiązane z interfejsami API giełd
- Środki bezpieczeństwa ograniczające handel w okresach zwiększonej zmienności rynku
Optymalizacja podatkowa
Funkcje optymalizacji podatkowej wymagały obliczeń kosztów bazowych, które obsługują:
- FIFO (First In, First Out)
- LIFO (Last In, First Out)
- Specyficzne techniki identyfikacji System przechowywał pełną historię transakcji wraz z skrótami, aby zachować integralność ścieżki audytu.
Bezpieczeństwo i zgodność z przepisami
- Integracja z modułami bezpieczeństwa sprzętowego i rozwiązaniami w zakresie przechowywania
- Wielodostępne granice bezpieczeństwa z izolowanymi kolejkami komunikatów i schematami baz danych
- Automatyczne raportowanie zgodności z przepisami wraz z utrzymaniem ścieżki audytu
Wdrożenie produkcyjne
Testowanie i wdrożenie
- Zakres testów dla wszystkich mikrousług przekroczył 85%
- Wdrożenie wersji beta objęło 50 klientów w ciągu 6 tygodni i zarządzało aktywami o łącznej wartości 500 milionów dolarów.
- Oficjalne wydanie wykorzystywało strategię wdrażania blue-green wraz z automatycznymi mechanizmami awaryjnymi
Wpływ i wyniki
Doskonałość operacyjna Transformacja platformy doprowadziła do znacznego wzrostu wydajności i poprawy zarządzania ryzykiem, a jednocześnie poprawiła komfort użytkowania. Zarządzający portfelami twierdzą, że obecnie oszczędzają znaczną ilość czasu w codziennych operacjach i mają dostęp do zaawansowanych funkcji analitycznych, które wcześniej były dostępne wyłącznie dla funduszy hedgingowych stosujących podejście ilościowe.
Podczas zawirowań na rynku w październiku 2022 r., kiedy konwencjonalne metody ręcznego śledzenia nie wykryły zakłóceń korelacji, użytkownicy platformy byli w stanie dokonać proaktywnych korekt w oparciu o alerty w czasie rzeczywistym.
Efektywność kosztowa
Efektywność kosztowa Efektywność kosztowa przekroczyła oczekiwania dzięki wdrożeniu limitów wykorzystania API i strategicznych metod przechowywania danych. W analizowanym okresie systemowi udało się obniżyć koszty danych zewnętrznych z 180 000 USD do 68 000 USD, jednocześnie zwiększając dokładność danych i szybkość reakcji.
Stos technologiczny
Infrastruktura podstawowa
Komponenty stosu technologicznego
Komponent | Technologia | Cel |
---|---|---|
Warstwa API | Node.js z Express, GraphQL | Zapytania dotyczące danych i zarządzanie API |
Buforowanie | Klaster Redis | Zarządzanie sesjami i często używane dane |
Przechowywanie szeregów czasowych | InfluxDB | Historyczne wskaźniki cen i wyników |
Koordynacja kontenerów | Kubernetes z Helm | Wdrażanie aplikacji |
Frontend | React z TypeScript, Material UI | Interfejs użytkownika |
Komunikacja w czasie rzeczywistym | Połączenia WebSocket | Aktualne ceny i aktualizacje portfela |
Infrastruktura bezpieczeństwa | AWS KMS, HashiCorp Vault | Zarządzanie kluczami szyfrującymi i tajnymi danymi |
Monitorowanie | Prometheus, Grafana, ELK Stack | Gromadzenie, wizualizacja i rejestrowanie danych pomiarowych |
Wnioski
Strategia zarządzania API Wdrożenie strategii ograniczania szybkości API polega na wykorzystaniu grupowania żądań i strategicznym buforowaniu często używanych danych zamiast polegania wyłącznie na technikach równoległości, które mogą nie ominąć surowych ograniczeń nałożonych przez API giełd.
Priorytet jakości danych Na początkowych etapach rozwoju skupialiśmy się na szybkim dostarczaniu wyników, a nie na zapewnieniu dokładności wykorzystywanych danych, co spowodowało, że użytkownicy zaczęli kwestionować wiarygodność naszej platformy. Po ponownej ocenie sytuacji postanowiliśmy nadać priorytet walidacji danych i kontroli jakości, nawet jeśli oznaczało to dłuższy czas przetwarzania.
Równowaga między bezpieczeństwem a wydajnością Stworzenie równowagi między bezpieczeństwem a wydajnością miało kluczowe znaczenie dla integracji portfeli sprzętowych z procesem projektowania doświadczeń użytkowników, zapewniając Państwu dostęp do aktualizacji portfela w czasie rzeczywistym bez narażania bezpieczeństwa Państwa kluczy prywatnych.
Zawsze najlepiej jest nie polegać na jednym API giełdowym w zakresie informacji o portfelu, ponieważ awarie i limity stawek mogą prowadzić do ryzykownych martwych punktów, zwłaszcza gdy rynek jest niestabilny.
Kluczowe wskaźniki wydajności
Redukcja kosztów
Oszczędności kosztów operacyjnych
Śledzone zasoby
Całkowita wartość zarządzanego portfela
Integracja z Exchange
Połączone giełdy i portfele
Czas odpowiedzi
Średni czas odpowiedzi API