Rekordowy transfer danych Polska-Singapur przez nowe transkontynentalne łącze CAE-1 100G
Interdyscyplinarne Centrum Modelowania Matematycznego i Komputerowego Uniwersytetu Warszawskiego (ICM), A*STAR Computational Resource Center (A*CRC, Singapur) i Zettar Inc. (USA) po raz pierwszy wdrożyły nowe połączenie produkcyjne o wielkiej przepustowości danych na trasie nowego światłowodu CAE-1 (Collaboration Asia Europe-1) o przepustowości 100 Gb/s. Test z początku listopada pokazał, że migracja naukowych danych wielkiej skali z olbrzymią przepustowością – między Polską a Singapurem – jest już rzeczywistością.
ICM zaprezentuje wyniki testu produkcyjnego i szczegóły nowego połączenia międzykontynentalnego podczas czołowej światowej konferencji Supercomputing 2019 w Denver (SC19, 17-22 listopada 2019, stoisko nr 1393).
CAE-1 zapewnia krótsze, szybsze i tańsze połączenie niż transfer przez Ocean Atlantycki, Amerykę Północną i Ocean Spokojny, który do tej pory obsługiwał znaczną część ruchu R&E (research and education) między Europą a regionem Azji i Pacyfiku. Co więcej, dzięki CAE-1 skorzysta region Bliskiego Wschodu, który będzie mógł uczestniczyć w intensywnych i rozproszonych na całym świecie badaniach i pracach naukowych na szlaku Europa – Azja i Pacyfik – Stany Zjednoczone.
1 PetaBajt (1PB) w mniej niż 2 dni
Połączenie Warszawa-Singapur to pierwszy historyczny projekt w ramach nowo zbudowanego międzykontynentalnego łącza CAE-1. Rozwiązanie oparte jest na zupełnie standardowym, acz dużej skali sprzęcie komputerowym składającym się z jednego serwera typu Data Transfer Node (DTN) oraz 40 macierzy pamięciowych z zainstalowanym wysokowydajnym systemem plików Lustre. Po stronie ICM w projekt zaangażowani byli tylko dwaj specjaliści – Marcin Semeniuk skonfigurował po polskiej stronie cały układ, a o ciągłość łącz pomiędzy Warszawą a Singapurem zadbał Jarosław Skomiał. Głównym pomysłodawcą i międzynarodowym koordynatorem projektu jest dyrektor ICM, dr Marek Michalewicz. Test produkcyjny udowodnił, że szybkie połączenia wielkoskalowe pomiędzy Polską (a tym samym Europą Wschodnią) a Singapurem (wkrótce całą Azją i Pacyfikiem) są już rzeczywistością.
Projekt uzgodniony w połowie października br. został zrealizowany w ciągu dwóch tygodni. Ustanowienie nowego połączenia było możliwe dzięki transkontynentalnej współpracy:
– ICM, czyli Interdyscyplinarnego Centrum Modelowania Matematycznego i Komputerowego Uniwersytetu Warszawskiego, uznanego ośrodka superkomputerowego w Europie Wschodniej;
– A*CRC, znanego również jako A*STAR Computational Resource Center, specjalistycznego ośrodka HPC finansowanego przez rząd Singapuru;
– Zettar Inc., startupu z siedzibą w Palo Alto, Kalifornia, USA, finansowanego z przychodów własnych oraz funduszu Departamentu Energii Stanów Zjednoczonych (DoE); Zettar dostarczył aplikację zx do szybkiego przesyłania danych wielkiej skali (od 2016 r. ustanawia w tym zakresie rekordy świata).
Specyfikacja
- Skromny sprzęt może dawać najlepsze wyniki światowej klasy, jeśli zasoby są inteligentnie wykorzystywane.
- Infrastruktura produkcyjna, a nie pokazowe „demo” – po stronie ICM zostały użyte dwa produkcyjne systemy plików Luster; oba utworzone z 20 serwerów do przechowywania danych (OST); każdy OST ma 4 dyski twarde 7200 obr./min. Nie stosuje się nawet jednego dysku SSD. Potrzebny jest tylko jeden serwer DTN na każdym końcu łącza.
- Wynik został osiągnięty na najwyższym poziomie na świecie – transkontynentalne przesłanie danych ze średnią przepustowością ~ 60 Gb/s.
- Używany jest standardowy protokół TCP – mie ma potrzeby używania żadnego prywatnego protokołu.
- Ogromna odległość pomiędzy punktami końcowymi: 19 800 km (po długości światłowodu).
- Bardzo krótki czas przygotowania i zbudowania tego rozwiązania: łącznie 2 tygodnie.
- InfiniBand (IB), zwykle używany do połączeń w przestrzeni HPC, nie jest zdolny do łączenia interfejsów w przeciwieństwie do Ethernetu, ale dwa zasoby storagowe z interkonektami IB są agregowane w jedną całość przez oprogramowanie do przenoszenia danych Zettar zx.
