Neethu Rose Thomas ORCID iD Karunya Institute of Technology and Science;
Jyothi Engineering College India
Department of Electronics and Communication Engineering, Karunya Institute of Technology and Science, Coimbatore, Tamilnadu, India.
Department of Electronics and Communication Engineering, Jyothi Engineering College
Cheruthuruthy, Kerala, India.
neethurose@ karunya.edu.in,
https://orcid.org/0009-0002-6254-9624
J. Anitha ORCID iD Karunya Institute of Technology and Science India
Department of Electronics and Communication Engineering, Karunya Institute of Technology and Science, Coimbatore, Tamilnadu, India.
anithaj@karunya.edu.in,
https://orcid.org/0000-0001-7977-8410
User
p-ISSN: 2068 - 0473 e-ISSN: 2067 - 3957
DOI:
10.18662/brain
DOI prefix: 10.70594/brain (currently edited by EduSoft) | 10.18662/brain (when was edited by Lumen)
Frequency:
4 issues/year (occasional additional issues)
Abstracting & Indexing
Web of Science (ESCI, IF 0.6), EBSCO, Google Scholar etc.
Neethu Rose Thomas -
Karunya Institute of Technology and Science;
Jyothi Engineering College (IN),
J. Anitha -
Karunya Institute of Technology and Science (IN),
RenalTCN: una arquitectura híbrida Transformer-convolucional con funciones de pérdida compuestas para una segmentación robusta de tumores renales
Autores:
Neethu Rose Thomas - Karunya Institute of Technology and Science; Jyothi Engineering College (IN)
J. Anitha - Karunya Institute of Technology and Science (IN)
Resumen
La segmentación de tumores a partir de tomografías computarizadas (TC) de los riñones puede contribuir a orientar los procedimientos quirúrgicos, monitorizar la eficacia del tratamiento y predecir los resultados en pacientes con carcinoma de células renales (CCR).
Sin embargo, el marcado desequilibrio de clases entre primer plano y fondo, la amplia heterogeneidad morfológica de las masas renales y la superposición visual entre quistes benignos y tumores malignos dificultan el diagnóstico preciso de los tumores renales.
En este artículo se presenta RenalTCN, una red híbrida formada mediante la combinación de un codificador-decodificador convolucional con un cuello de botella basado en Transformer, con el fin de aprender tanto detalles locales finos como características anatómicas.
Las redes convolucionales convencionales son eficaces para captar detalles locales, pero presentan limitaciones para modelar información global.
Por el contrario, las redes basadas en Transformers capturan dependencias de largo alcance, aunque a costa de una menor precisión espacial fina y de una mayor complejidad computacional.
RenalTCN combina modelos convolucionales y Transformer para superar las limitaciones de ambos enfoques.
El modelo propuesto se entrena con salidas auxiliares y una estrategia cuidadosamente diseñada de regularización por decaimiento de pesos aplicada a pérdidas focal, Dice y de entropía cruzada, con el objetivo de abordar el acusado desequilibrio entre clases.
Además, el enfoque incorpora optimizaciones prácticas, como acumulación de gradientes, precisión mixta y recocido cosenoidal con tasas de aprendizaje diferenciadas, para estabilizar y acelerar la convergencia.
En el conjunto de validación, RenalTCN alcanzó puntuaciones Dice de 0,965 ± 0,02 para el riñón y de 0,820 ± 0,08 para el tumor.
El modelo mostró un rendimiento consistente en función del tamaño tumoral, con una sensibilidad del 90 % para tumores pequeños (≤ 4 cm), del 100 % para tumores de tamaño medio (4–7 cm) y del 96 % para tumores grandes (> 7 cm).
Los estudios de ablación demostraron que cada decisión de diseño es relevante. La eliminación únicamente del cuello de botella Transformer produjo la mayor disminución de la puntuación Dice (4,0 %), lo que indica la reducción más significativa de la precisión en la segmentación tumoral.
En conjunto, RenalTCN ofrece un equilibrio razonable entre la complejidad del modelo y el coste computacional, y su marco de entrenamiento aborda directamente dos problemas principales: el desequilibrio de clases y la inestabilidad de la optimización.
Estas características hacen que el modelo sea potencialmente aplicable en escenarios clínicos reales con recursos de hardware limitados.
RenalTCN: hybrydowa architektura transformatorowo-konwolucyjna ze złożonymi funkcjami straty do niezawodnej segmentacji guzów nerek
Autorzy:
Neethu Rose Thomas, J. Anitha
Streszczenie:
Segmentacja guzów na obrazach tomografii komputerowej (TK) nerek może wspomagać planowanie zabiegów chirurgicznych, monitorowanie skuteczności leczenia oraz przewidywanie rokowania u pacjentów z rakiem nerkowokomórkowym (RCC). Jednak znaczna nierównowaga liczebności klas między obszarem zainteresowania a tłem, duża różnorodność morfologiczna zmian w nerkach oraz podobieństwo obrazu łagodnych torbieli i nowotworów złośliwych utrudniają dokładną diagnostykę guzów nerek.
W niniejszej pracy przedstawiono RenalTCN — sieć hybrydową łączącą konwolucyjny koder i dekoder z modułem transformatorowym w najwęższej części architektury, umożliwiającą uczenie się zarówno drobnych szczegółów lokalnych, jak i cech anatomicznych. Konwencjonalne sieci konwolucyjne skutecznie wychwytują szczegóły lokalne, lecz mają trudności z uwzględnianiem informacji globalnych. Z kolei sieci oparte na transformatorach modelują zależności dalekiego zasięgu kosztem precyzji przestrzennej i wydajności obliczeniowej. RenalTCN łączy oba podejścia, aby przezwyciężyć ich ograniczenia.
Uczenie modelu wykorzystuje dodatkowe wyjścia nadzorujące oraz odpowiednio dobraną regularyzację wag i połączenie funkcji straty focal, Dice i entropii krzyżowej, co ma ograniczać skutki znacznej nierównowagi klas. Zastosowano również rozwiązania usprawniające optymalizację, w tym akumulację gradientów, obliczenia o mieszanej precyzji oraz kosinusową zmianę współczynnika uczenia z różnymi wartościami dla poszczególnych części modelu, aby ustabilizować i przyspieszyć zbieżność.
Na zbiorze walidacyjnym RenalTCN osiągnął współczynnik Dice wynoszący 0,965 ± 0,02 dla nerek oraz 0,820 ± 0,08 dla guzów. Model wykazywał stabilne działanie w różnych kategoriach wielkości zmian: czułość wynosiła 90% dla małych guzów (≤ 4 cm), 100% dla guzów średniej wielkości (4–7 cm) oraz 96% dla dużych guzów (> 7 cm).
Badania ablacyjne wykazały, że każdy z elementów architektury ma istotne znaczenie. Samo usunięcie modułu transformatorowego spowodowało największy spadek współczynnika Dice (o 4,0%), wskazując na największe pogorszenie dokładności segmentacji guzów.
Ogólnie rzecz biorąc, RenalTCN zapewnia rozsądny kompromis między złożonością modelu a kosztem obliczeniowym. Zastosowany schemat uczenia bezpośrednio odpowiada na dwa główne wyzwania: nierównowagę klas i niestabilność optymalizacji. Dzięki temu rozwiązanie może znaleźć zastosowanie w rzeczywistych warunkach klinicznych, także przy ograniczonych zasobach sprzętowych.
Segmenting tumors from computed tomography (CT) scans of the kidneys can help to guide surgical procedures, monitor treatment efficacy, and to predict outcomes for patients with renal cell carcinoma (RCC). However, the extreme foreground–background class imbalance, wide morphological heterogeneity of renal masses, and the visual overlap between benign cysts and malignant tumors prevents the accurate diagnosis of kidney tumors. In this paper, RenalTCN, a hybrid network formed by combining a convolutional encoder-decoder with a transformer bottleneck to learn local fine details and anatomical features. Pure conventional networks are efficient for capturing local details but fail at capturing global details. Conversely, transformer-based networks capture long-range dependencies at the expense of fine spatial precision and computational efficiency. RenalTCN combines both convolutional network and transformer models to overcome the difficulties faced by both the models. The present model is supervised with auxiliary outputs, a well-designed weight decay for focal, Dice and cross-entropy losses to overcome the dramatic class imbalance. Additionally, this approach can be helpful in practical optimisations, gradient accumulation, mixed precision, and cosine annealing using differentiated learning rate to stabilise and accelerate convergence. On the validation set, RenalTCN achieved Dice scores of 0.965 ± 0.02 for the kidney and 0.820 ± 0.08 for the tumor. It has been shown to be consistent across the size of the tumor, with good sensitivity of 90% for small tumors (less than or equal to 4 cm), 100% for medium-size (4–7 cm) and 96% for large tumors (>7 cm). The ablation studies demonstrated that each design decision is crucial and removing the Transformer bottleneck alone resulted in the most significant drop in Dice score (4.0%), indicating the most significant drop in Tumor Segmentation accuracy. In general, RenalTCN strikes a sensible compromise between model complexity and computational cost and its training framework directly addresses the two primary issues of class imbalance and optimisation instability, making it feasible for real-world clinical scenarios that have limited hardware resources.
Academic discipline and sub-disciplines:
Artificial Intelligence; Biomedical Engineering; Computer Science