PL1803117T3

Individual channel temporal envelope shaping for binaural cue coding schemes and the like

Abstract

At an audio encoder, cue codes are generated for one or more audio channels, wherein an envelope cue code is generated by characterizing a temporal envelope in an audio channel. At an audio decoder, E transmitted audio channel(s) are decoded to generate C playback audio channels, where C>E≧1. Received cue codes include an envelope cue code corresponding to a characterized temporal envelope of an audio channel corresponding to the transmitted channel(s). One or more transmitted channel(s) are upmixed to generate one or more upmixed channels. One or more playback channels are synthesized by applying the cue codes to the one or more upmixed channels, wherein the envelope cue code is applied to an upmixed channel or a synthesized signal to adjust a temporal envelope of the synthesized signal based on the characterized temporal envelope such that the adjusted temporal envelope substantially matches the characterized temporal envelope.

PL1803117T3, drawing sheet 1
Sheet 1 of 30

Term

Term ended

Projected expiry passed 7 September 2025, 1 year ago.

  1. Priority
  2. Filed
  3. Published
  4. Projected expiry
  5. Today

40 claims: 6 independent, 34 dependent

  1. 1
    Zastrzeżenia patentowe 1. Sposób kodowania kanałów audio obejmujący:generowanie dwóch łub większej liczby kodów parametrycznych dla jednego lub większej liczby kanałów- audio, przy czym przynajmniej jeden kod parametryczny ma postać kodu parametrycznego obwiedni wygenerowanego przez opisanie obwiedni czasowej w jednym lub większej liczbie kanałów audio, dwa lub w-iększa liczba kodów- parametrycznych zawiera jeden lub większą liczbę parametrów dotyczących stopnia statystycznej zgodności kanałów- (ICC), parametrów dotyczących międzykanalowej różnicy natężeń (ICLD) i parametrów dotyczących międzykanalowej różnicy czasu (ICTD), gdzie pierwsza rozdzielczość w czasie powiązana z kodem parametrycznym obwiedni jest wyższa niż druga rozdzielczość w czasie powiązana z innym kodem(mi) parametrycznym^) i gdzie obwiednia czasowa jest opisana dla odpowiadającego jej kanału audio w dziedzinie czasu lub oddz.clnic dla różnych podzakresów pasma odpowiadającego jej kanału audio w dziedzinie podzakresu pasma;oraz przesyłanie dwóch luh większej liczby kodów- parametrycznych.
  2. 2
    Sposób według zastrzeżenia 1, znamienny tym, żc obejmuje ponadto przesyłanie E przesyłanych kanałów- audio od pcw jadających jednemu lub większej liczbie kanałów audio, gdzie E .
  3. 3
    Sposóh w-cdlug zastrzeżenia 2, znamienny tym, że jeden lub większa liczba kanałów- audio obejmuje C wejściowych kanałów audio, gdzie C E, oraz C kanałów wejściowych poddawanych jest procesowi downmixu w celu wygenerowania E przesyłanych kanałów.
  4. 4
    Sposób według zastrzeżenia 1, znamienny tym, że dwa lub większa liczba kodów parametrycznych jest przesyłana w celu umożliwienia przeprowadzenia przez dekoder procesu kształtowania obwiedni podczas dekodowania E przesyłanych kanałów w oparciu o dwa lub większą liczbę kodów parametrycznych, przy czym E przesyłanych kanałów odpowiada jednemu lub większej liczbie kanałów audio, gdzie
  5. 5
    Sposóh według zastrzeżenia 4, znamienny tym, żc kształtowanie obwiedni obejmuje modyfikację obwiedni czasowej syntetyzowanego sygnału generowanego przez dekoder w laki sposób, aby była ona zgodna z opisaną obwiednią czasową.
  6. 6
    Sposób według zastrzeżenia 1, znamienny tym, że obwiednia czasowa jest opisana jedynie dla określonych częstotliwości odpowiadającego jej kanału audio.
  7. 7
    Sposób według zastrzeżenia 1, znamienny tym, że obwiednia czasowa jest opisana jedynie dla częstotliwości odpowiadającego jej kanału audio większych niż określona częstotliwość odcięcia.
  8. 8
    Sposób według zastrzeżenia 1 znamienny lym, żc dziedzina podzakresu pasma odpowiada kwadraturow-emu filtrowi zwierciadlanemu (QMF).
  9. 9
    Sposób według zastrzeżenia 1 znamienny lym, że obejmuje ponadto określenie czy należy włączyć czy wyłączyć proces opisywania.
  10. 10
    Sposób według zastrzeżenia 9 znamienny tym, że obejmuje ponadto generow-anie i przesyłanie znacznika wlącz/wylącz w oparciu o wynik przeprowadzonego określenia, co ma na celu przekazanie do dekodera informacji, czy należy czy nie należy przeprowadzić kształtowanie obwiedni podczas dekodowania E przesyłanych kanałów odpowiadających jednemu lub większej liczbie kanałów audio, gdzie E i II. Sposóh według zastrzeżenia 9, znamienny lym, że określenie oparte jesi na analizie kanału audio w celu wykrycia transjentów w kanale audio, lak że proces opisywania jest włączany w przypadku wykrycia obecności iransjcntu.
  11. 11
    12. Sposób według zastrzeżenia 1, znamienny lym, że etap generowania kodu parametrycznego obwiedni obejmuje pierwiastkowanie (1006) lub utworzenie powiększenia, a następnie filtrowanie z wykorzystaniem fillra dolnoprzepuslow-ego (1008) próbek sygnału kanału audio lub sygnałów podzakresów pasma kanału audio w celu opisania obwiedni czasowej.
  12. 12
    13. Sposób według zastrzeżenia I albo 12, znamienny tym, że etap generowania obejmuje ponadto etap parametryzacji, kw-anlowania i kodowania uzyskanej obwiedni czasowej.
  13. 13
    14. Urządzenie do kodowania kanałów audio zawierające:elementy umożliwiające generowanie dwóch lub większej liczby kodów 7 parametrycznych dla jednego lub większej liczby kanałów audio, przy czym przynajmniej jeden kod parametryczny ma postać kodu parametrycznego obwiedni wygenerowanego przez opisanie obwiedni czasowej w jednym lub większej liczbie kanałów audio, gdzie dwa lub większa liczba kodów· parametrycznych zawiera jeden lub większą liczbc parametrów' dotyczących stopnia statystycznej zgodności kanałów (ICC), parametrów dotyczących iniędzykanałow'cj różnicy natężeń (ICLD) i parametrów dotyczących międzykanalowej różnicy czasu (ICTD), gdzie pierwsza rozdzielczość w czasie powiązana z kodem parametrycznym obwiedni jcsl wyższa niż druga rozdzielczość w czasie powiązana z innym kodem(mi) parametrycznymi i), i gdzie obwiednia czasowa jest opisana dla odpowiadającego jej kanału audio w dziedzinie czasu lub oddzielnie dla różnych podzakresów pasma odpowiadającego jej kanału audio w dziedzinie podzakresu pasma;oraz elementy umożliwiające przesyłanie dwóch lub większej liczby kodów parametrycznych.
  14. 14
    15. Urządzenie według zastrzeżenia 14, znamienne tym, że:urządzenie umożliwia kodow-anic C wejściowych kanałów audio w celu wygenerowania E przesyłanych kanałów audio, zaś elementy umożliwiające generowanie obejmują analizator obwiedni przystosowany do opisywania wejściowej obwiedni czasowej przynajmniej jednego 7. C kanałów wejściowych, elementy umożliwiające generowanie obejmują ponadto estymator kodów, przystosowany do generowania kodów parametrycznych dotyczących dwóch lub większej liczhy 7. C kanałów wejściowych, przy czyim urządzenie zawiera ponadto urządzenie przeprowadzające proces downmixu, przystosowane do przeprowadzania procesu downmixu C kanałów wejściowych w- celu wygenerowania E przesyłanych kanałów audio, gdzie OESł;a elementy umożliwiające przesyłanie są przystosowane do przesyłania informacji dotyczących dwóch lub większej liczny kodów' parametrycznych, umożliwiających dekoderowi przeprowadzenie procesów syntezy i kształtowania obwiedni podczas dekodowania E przesyłanych kanałów.
  15. 15
    16. Urządzenie według zastrzeżenia 15, znamienne tym, żc urządzenie ma postać sys.eniu wybranego z grupy obejmującej cyfrowy rejestrator wideo, cyfrowy rejestrator audio, komputer, nadajnik satelitarny, nadajnik kablowy, nadajnik wykorzystywany w r transmisji naziemnej, domowe centrum multimedialne i system kina domowego;i system obejmuje analizator obwiedni, estymator kodów i urządzenie przeprowadzające modyfikacje obwiedni.
  16. 16
    17. Program komputerowy obejmujący kod programu zapewniający po wykonaniu kodu na komputerze implementację sposobu określonego w zastrzeżeniu 1.
  17. 17
    18. Zakodowany strumień danych audio obejmujący:dwa lub większą liczbę kodów parametrycznych dla jednego lub większej liczby kanałów audio, przy czym przynajmniej jeden kod parametryczny ma postać kodu parametrycznego obwiedni wygenerowanego przez opisanie obwiedni czasowej w jednym lub większej liczbie kanałów audio, gdzie dwa lub większa liczba kodów* parametrycznych obejmują ponadto jeden lub większą liczbę parametrów dotyczących stopnia statystycznej zgodności kanałów (ICC), parametrów dotyczących międzykanalowej różnicy natężeń (ICLD) i parametrów dotyczących międzykanalowej różmicy czasu (ICTD), gdzie pierwsza rozdzielczość w czasie powiązana z kodem parametrycznym obwiedni jest wyższa niż druga rozdzielczość w czasie powiązana z innym kodem(mi) parametrycznymi i), i gdzie obwiednia czasowa jest opisana dla odpowiadającego jej kanału audio w dziedzinie czasu lub oddzielnie dla różnych podzakresów' pasma odpowiadającego jej kanału audio w* dziedzinie podzakresu pasma;a w zakodowanym strumieniu danych audio zakodowane są dwa lub większa liczba kodów* parametrycznych i E przesyłanych kanałów audio odpowiadających jednemu lub większej liczbie kanałów* audio, gdzie E^.
  18. 18
    19. Zakodowany strumień danych audio według zastrzeżenia 18 znamienny tym. że ponadto zawiera E przesyłanych kanałów· audio, gdzie E przesyłanych kanałów audio odpowiada jednemu lub większej liczbie kanałów audio.
  19. 19
    20. Sposób dekodowania E przesyłanych kanałów audio w celu wygenerowania C odtwarzanych kanałów audio, gdz.c C E \, obejmujący:odebranie kodów parainetycznych odpowiadających E przesyłanym kanałom, gdzie kody parametryczne obejmują kod parametryczny obwiedni odpowiadający opisanej obwiedni czasowej kanału audio odpowiadającemu E przesyłanym kanałom, gdzie dwa lub większa liczba kodów parametrycznych obejmuje ponadto jeden lub większą liczbę parametrów' dotyczących stopnia statystycznej zgodności kanałów (ICC), parametrów dotyczących międzykanalowej różnicy natężeń (ICLD) i parametrów dotyczących międzykanalowej różnicy czasu (ICTD), zaś pierwsza rozdzielczość w czasie powiązana z kodein parametrycznym obwiedni jest wyższa niż druga rozdzielczość w czasie powiązana z innym kodcm(mi) parametrycznym(i);przeprowadzenie procesu upmixu E przesyłanych kanałów audio w celu wygenerowania jednego lub większej liczby kanałów' poddanych procesowi upmixu;oraz przeprowadzenie procesu syntezy C odtwarzanych kanałów' przez zastosowanie kodów' parametrycznych względem jednego lub większej liczby kanałów poddanych procesowi upmixu, gdzie kod parametryczny obwiedni stosowany jest względem kanału poddanego procesowi upmixu lub kanału syntetyzowanego w celu dokonania modyfikacji obwiedni czasowej syntetyzowanego kanału w oparciu o opisaną obwiednię czasową, przy czym dokonywane Jest to przez skalowanie próbek sygnału w dziedzinie czasu lub w dziedzinie podzakresów pasma z wykorzystaniem współczynnika skalowania w ;taki sposóh, że zmodyfikowana obwiednia czasowa jest zgodna z opisaną obwiednią czasową.
  20. 20
    21. Sposób według zastrzeżenia 20, znamienny tym, że kod parametryczny obwiedni odpowiada opisanej obwiedni czasowej w pierwotnym kanale wejściowym wykorzystanym do wygenerowania E przesyłanych kanałów.
  21. 21
    22. Sposób według zastrzeżenia 21, znamienny tym, że synteza obejmuje syntezę późnej rewerberacji ICC.
  22. 22
    23. Sposób według zasirzeżenia 21, znamienny tym, że obwiednia czasowa syntetyzowanego sygnału poddawana jest modyfikacji przed przeprowadzeniem syntezy ICLD.
  23. 23
    24. Sposób według zastrzeżenia 20, znamienny tym, że:obw jednia czasowa syntetyzowanego sygnału jest opisana;oraz obwiednia czasowa syntetyzowanego sygnału poddawana jest modyfikacji w oparciu o opisaną obwiednię czasową odpowiadającą kodowi parametrycznemu obwiedni i opisaną obwiednię czasową syntetyzowanego sygnału.
  24. 24
    25. Sposóh według zastrzeżenia 24, znamienny tym. że:funkcja skalowania generowana jest w oparciu o opisaną obwiednię czasową odpowiadającą kodowi parametrycznemu obwiedni i opisaną obwiednię czasową syntetyzowanego sygnału;oraz funkcja skalowania wykorzystywana jest do przetwarzania syntetyzowanego sygnału.
  25. 25
    26. Sposób według zastrzeżenia 20 znamienny tym, że obejmuje ponadto modyfikowanie przesyłanego kanału w oparciu o opisaną obwiednię czasowy w celu wygenerowania spłaszczonego kanaki, przy czyni spłaszczony kanał poddawany jest procesom upmixu i syntezy w celu wygenerowania odpowiadającego mu odtwarzanego kanaki.
  26. 26
    27. Sposób według zastrzeżenia 20 znamienny tym, że obejmuje ponadto modyfikowanie kanału poddanego procesowi upmixu w oparciu o opisaną obwiednie czasową w celu wygenerowania spłaszczonego kanału, przy czym spłaszczony kanał poddawany jest procesowi syntezy w· celu wygenerowania odpowiadającego mu odtwarzanego kanału.
  27. 27
    28. Sposób według zastrzeżenia 20, znamienny tym, że obwiednia czasowa syntetyzowanego sygnału poddawana jest modyfikacji jedynie dla określonych częstotliwości.
  28. 28
    29. Sposób według zastrzeżenia 28, znamienny tym. że obwiednia czasowa syntetyzowanego sygnału poddawana jest modyfikacji jedynie dla częstotliwości większych niż określona częstotliwość odcięcia.
  29. 29
    30. Sposób według zastrzeżenia 20, znamienny tym. że obwiednie czasowe poddawane są modyfikacji oddzielnie dla poszczególnych podzakresów pasma syntetyzowanego sygnału.
  30. 30
    31. Sposób według zastrzeżenia 20, znamienny tym, że dziedzina pod zakresu pasma odpowiada kwadraturowenni filtrowi zwierciadlanemu (QMF).
  31. 31
    32. Sposób według zastrzeżenia 20, znamienny tym, że obwiednia czasowa syntetyzowanego sygnału poddawana jest modyfikacji w dziedzinie czasu.
  32. 32
    33. Sposób według zastrzeżenia 20 znamienny tym, że obejmuje ponadto określenie czy należy włączyć czy wyłączyć proces modyfikacji obwiedni czasowej syntetyzowanego sygnału
  33. 33
    34. Sposób według zastrzeżenia 33, znamienny tym. że określenie oparte jest o znacznik włącz/wylącz generowany przez koder audio, który wygenerował E przesyłanych kanałów.
  34. 34
    35 Sposób według zastrzeżenia 33, znamienny tym, że określenie oparte jest o analizę E przesyłanych kanałów w celu wykrycia transjentów. dzięki czemu proces modyfikacji jest włączany w przypadku wykrycia cbccności transjentu.
  35. 35
    36. Sposób według zastrzeżenia 20 znamienny tym, że obejmuje ponadto:opisywanie obw iedni czasowej przesyłanego kanału;oraz określenie, czy w procesie modyfikacji obwiedni czasowej syntetyzowanego sygnału należy wykorzystywać (1) opisaną obwiednię czasową odpowiadającą kodowi parametrycznemu obwiedni, czy (2) opisaną obwiednię czasową przesyłanego kanału.
  36. 36
    37. Sposób według zastrzeżenia 20, znamienny tym, że moc w określonym okienku syntetyzowanego sygnału po przeprowadzeniu modyfikacji obwiedni czasowej jest równa mocy w odpowiadającym mu okienku syntetyzowanego sygnału przed przeprowadzeniem modyfikacji.
  37. 37
    38. Sposób według zastrzeżenia 37, znamienny tym, że określone okienko odpowiada okienku syntezy powiązanym z jednym lub większą liczbą kodów parametrycznych nic związanych z obwiednią.
  38. 38
    39. Urządzenie przeznaczone do dekodowania E przesyłanych kanałów audio w celu wygenerowania C odtwarzanych kinałów audio, gdzie C E^ . zawierające:elementy umożliwiające odebranie kodów parametrycznych odpowiadających E przesyłanym kanałom, gdzie kody parametryczne obejmują kod parametryczny obwiedni odpowiadający opisanej obwiedni czasowej kanału audio odpowiadającemu E przesyłanym kanałom, przy czym dwa lub większa liczba kodów- parametrycznych obejmuje ponadto jeden lub większą liczbę parametrów dotyczących stopnia statystycznej zgodności kanałów (ICC), parametrów- dotyczących międzykanalowcj różnicy natężeń (ICLD) i parametrów dotyczących międzykanalowcj różnicy czasu (ICTD), a pierwsza rozdzielczość w czasie powiązana z kodem parametrycznym obwiedni jest wyższa niż druga rozdzielczość w czasie powiązana z innym kodem(mi) paramelrycznym(i);elementy przeprowadzające proces upmixu E przesyłanych kanałów audio w celu wygenerowania jednego lub większej liczby kanałów poddanych procesowi upmixu;oraz elementy przeprowadzające proces syntezy jednego hib większej liczby C odtwarzanych kanałów przez zastosowanie kodów parametrycznych do jednego lub większej liczby kanałów poddanych procesowi upmixu, gdzie kod parametryczny obwiedni stosow any jest do kanalii poddanego procesowi upmixu lub kanału syntetyzowanego, w celu dokonania modyfikacji obwiedni czasowej syntetyzowanego kanału w- oparciu o opisaną obwiednię czasową, przy czym dokonywane est to przez skalowanie próbek sygnału w dziedzinie czasu lub w dziedzinie podzakresów pasma z wykorzystaniem współczynnika skalowania w taki sposób, że zmodyfikowana obwiednia czasowa jest zgodna z opisaną obw iednią czasową.
  39. 39
    40. Urządzenie według zastrzeżenia 39, znamienne tym, że urządzenie ma postać systemu wybranego z grupy obejmującej cyfrowy odtwarzacz wideo, cyfrowy odtwarzacz audio, komputer, odbiornik satelitarny, odbiornik kablowy, odbiornik wykorzystywany w transmisji naziemnej, domowe centrum multimedialne i system kina domowego:zaś system obejmuje odbiornik, urządzenie przeprowadzające proces upmixu, syntetyzator oraz urządzenie przeprowadzające modyfikację obwiedni.
  40. 40
    41. Wytwór stanowiący program komputerowy obejmujący kod programu, przy czym po wykonaniu kodu z wykorzystaniem odpowiedniego urządzenia, urządzenie implementuje sposóh dekodowania określony w zastrzeżeniu 20. Fraunhofer-Gesellschaft zur Fordcrung der Angcwandten Forschung e.V„ Niemcy Agcrc Systems, Inc., USA Pełnomocnik Sebastian Walkiewicz Rzecznik Pitentowy ΕΡ I 803 117 BI Z - 5968/09 FIG. 1 (STAN TECHNIKI) 100 MONOFONICZNY SYGNAŁ ŹRÓDŁOWY PRZESTRZENNE DLA ŹRÓDŁA LEWY SYGNAŁ AUDIO PRAWY SYGNAŁ AUDIO 200 ΕΡ 1 803 117 BI Z - 5968/09 FIG. 3 ΕΡ I 803 117 BI Z - 5968/09 FIG. ΕΡ 1 803 117 BI Z - 5968/09 FIG. 5 El’ 1 803 117 BI Z - 5968'09 FIG. 7Δ FIG. 7B EP 1 803 1 17 BI Z - 5968/09 co FIG. ΕΡ 1 803 117 BI Z- 5968/09 FIG. 10A INFORMACJE POMOCNICZE TP FIG. 108 1002 ΕΡ 1 803 I 17 BI Z - 5968/09 EP 1 803 117 BI Z - 5968/09 FIG. 12A 1204 FIG. 12B 1206 ΕΡ 1 803 I 17 BI Z - 5968/09 FIG. 13A INFORMACJE POMOCNICZE TP FIG. 13B 1302 ΕΡ 1 803 1 17 BI Z - 5968/09 CD IL EP I 803 117 BI Z - 5968/09 FIG. 15 EP 1 803 117 BI Z - 5968'09 FIG. 16 ΕΡ 1 803 117 131 Z - 5968/09 WSPÓŁCZYNNIKI LPC FIG. 17B ODWROTNA MODYFIKACJA OBWIEDNI (ITP) WSPÓŁCZYNNIKI WIDMOWE WSPÓŁCZYNNIKI WIDMOWE WSPÓŁCZYNNIKI LPC FIG. 17C MODYFIKACJA OBWIEDNI (TP) WSPÓŁCZYNNIKI WIDMOWE WSPÓŁCZYNNIKI WIDMOWE WSPÓŁCZYNNIKI LPC ΕΡ I 803 117 BI Z - 5968/09 FIG. 18A DO BLOKÓW ITP KANAŁ KANAŁ 2 KANAŁ FIG. 188 DO BLOKÓW ITP KANAŁ KANAŁ 2 KANAŁ
Independent claims40