Może dlatego (nie wiem na pewno - sam to miałem ale nie używam więc mi to było zbędne i nie sprawdzałem), że ten plugin nie jest wprost przystosowany do w kompilowania w obraz - obadaj Make tego pluginu i porównaj z innymi czy ma wszystkie wymagane sekcje, i.t.d.
Rozwiązanie:
He - jest taki sam myk jak przy zwykłej kompilacji - wystarczy najpierw zaznaczyć libffmpeg-* (najlepiej full) to dopiero pokarze Ci się wymagany (patrz w Make pluginu - sekcja DEPENDS) dla tego pluginu pakiet minidlna (w sekcji Multimedia) - wtedy jak zaznaczysz po kolei oba (najpierw libffmpeg-*, później minidlna) plugin-gargoyle-minidlna daje się zaznaczyć i skompilować (czy się kompiluje to tylko przypuszczam - musisz obadać w praktyce).

EDIT 1: Nie wiem w jaki obraz i do jakiego router'a, czy w co tam chcesz to wkompilować, ale weź proszę poprawkę na fakt, że ffmpeg jest byczy i warto zastanowić się chyba, czy owe pakiety i plugin nie warto zaznaczyć jako moduły do zbudowania (po prostu swoje osobiste repo) bez wkompilowania w obraz - opcja 'M'...
EDIT 2: Przetestowałem przed chwilą - jest jak napisałem - buduje się - ale obraz wynikowy powiększył mi się o 3 MB - także sam rozumiesz - libffmpeg i reszta wymaganych pakietów dla tego pluginu jak i ogólnie minidlna wymaga sporo miejsca (flash) - zdecydowanie warto to robić tylko jako pakiet do repo i do użycia w extroot.
EDIT 3: sam pakiet libffmpeg-full po zbudowaniu to - 2,663,537 bitów - w squash co prawda "deko się skurczy" ale są jeszcze inne wymagane pakiety do kompletu także rozwiązanie jak to użyć chyba nasuwa się samo jasno i wyraźnie.
EDIT 4: jest jeszcze jeden argument za tym aby to budować na zewnątrz jako do użycia w extroot - ogólnie pakiet minidlna jest z natury trudno sterowalny i niepewny w działaniu, więc tym bardziej warto zastanowić się czy pchać go do obrazu, jak może się okazać, że przy pewnych wzajemnych korelacjach sprzętowo/softwerowych po prostu może być mało wydajny i/lub całkowicie bezużyteczny - zdecydowanie wymaga poprawiania startu - różnie na różnych routerach/innych sprzętach by działał w miarę powtarzalnie po każdym restarcie urządzenia, które go "gości".