Černé skřínky v ekologii a ochraně přírody - vědci se stále více spoléhají na nástroje, nad nimiž nemají plnou kontrolu

Nahoře ilustrační snímek: Pixabay, The Digital Artist.

Nová studie (https://doi.org/10.1093/biosci/biag119) mezinárodního týmu vědců se zabývá transparentnostní, reprodukovatelností, důvěryhodností a budoucností vědeckého výzkumu. Zaměřuje se přitom na rostoucí vliv klíčových technologií, které ovlivňují vědecké postupy a generování nových poznatků, leckdy však nejsou plně transparentní ani kontrolovatelné. Tyto technologie dokáží zpracovávat obrovské množství informací, například sledovat globální biodiverzitu a hrozby, kterým čelí, nebo odhalovat přírodní procesy a zákonitosti, které byly dříve jen obtížně postižitelné.

„Mnoho z těchto nástrojů však představuje skutečné černé skříňky, protože procesy stojící za jejich výstupy zůstávají do značné míry skryté,“ říká Ivan Jarić,  vědec z Biologického centra Akademie věd ČR a hlavní autor studie: „Tyto nástroje často vlastní soukromé společnosti, které s odvoláním na ochranu duševního vlastnictví a své obchodní zájmy záměrně omezují přístup k informacím o tom, jak jejich systémy fungují a jak zpracovávají data.“

Studie identifikuje několik typů černých skříněk, které se stále více využívají v ekologii a ochraně přírody. Mezi nejvýraznější příklady patří velké jazykové modely a další technologie umělé inteligence, které se v rostoucí míře používají k analýze rozsáhlých datových souborů, interpretaci satelitních snímků a modelování ekosystémů. Vědci však často mají jen omezený přístup k datům použitým k trénování těchto systémů a k algoritmům, na nichž jsou založeny. Nemohou je tak ani přímo testovat ani spolehlivě zjistit, jak a proč vytvářejí konkrétní výstupy. S rostoucími schopnostmi a autonomií nástrojů umělé inteligence se bude netransparentnost dále prohlubovat a ztěžovat interpretaci a ověřování vědeckých zjištění.

Obrázek: Hlavní rizika spojená s využíváním černých skřínek (nástrojů a datových zdrojů) v ekologii a ochraně přírody a možnosti jejich řešení (autorka ilustrace Julie Johnson, Life Science Studios).

Tento problém se netýká pouze umělé inteligence. U některých komerčních nástrojů dálkového průzkumu Země, či zařízení na sledování volně žijících živočichů například výzkumníci nemají plný přístup k surovým datům, a nemohou proto výsledky nezávisle ověřit. Online platformy, jako jsou internetové vyhledávače a sociální sítě, se staly v poslední době cenným zdrojem dat pro studium biodiverzity a vztahů mezi člověkem a přírodou. Jejich fungování je však založeno na skrytých algoritmech a neustále se měnících pravidlech, která mohou do získaných dat vnášet neznámá zkreslení. Podobné problémy se objevují i v sociologických průzkumech. Vědci při náboru účastníků a administraci průzkumů stále častěji využívají služby soukromých společností, přičemž mají často jen omezené informace o způsobu výběru respondentů, kontrole kvality dat nebo o tom, zda odpovědi nemohly být ovlivněny zásahy AI agentů.

„Tento problém není způsoben pouze komerčními a vlastnickými otázkami,“ uvedla profesorka Karen Anderson z Univerzity v Exeteru, další autorka studie. „Moderní vědecké nástroje se po technické stránce stávají natolik složitými, že jejich uživatelé, a v některých případech i samotní vývojáři, mohou jen s obtížemi posoudit jejich fungování, či je plně pochopit.”

Nejde-li zopakovat klíčové analýzy, důvěra ve vědecké výsledky může slábnout

Rostoucí závislost na technologických černých skřínkách je mimo jiné důsledkem sílícího tlaku na produktivitu a konkurenceschopnosti vědců. Přispívá k ní však také potřeba efektivněji zpracovávat stále rozsáhlejší datové soubory a reagovat na naléhavé environmentální krize. Kromě rizika monopolizace, oslabení snah o otevřenou vědu a náchylnosti k manipulaci autoři upozorňují, že tento trend by mohl zásadně narušit celkovou reprodukovatelnost vědeckého výzkumu. Pokud nelze klíčové analytické kroky prozkoumat ani zopakovat, důvěra ve vědecká zjištění může postupně slábnout.

Autoři navrhují řadu opatření, která by mohla zvýšit transparentnost a odpovědné využívání technologických černých skřínek. Doporučují například upřednostňovat software s otevřeným zdrojovým kódem a hardware poskytující i nezpracovaná data, ověřovat komerční nástroje pomocí transparentních datových souborů a porovnávat výsledky získané různými metodami. Zároveň zdůrazňují potřebu pečlivě dokumentovat trénovací data, pracovní postupy, použité verze, nastavení a především omezení jednotlivých nástrojů. V neposlední řadě je podle nich nutné systematicky zvyšovat povědomí o tomto problému, kterému ve vědecké komunitě zatím nebyla věnována náležitá pozornost.

„Lidský dohled a řízení by měly zůstat ústřední součástí celého výzkumného procesu, neboť odpovědnost za chyby a nejistoty spojené s využíváním nástrojů typu černých skříněk nesou vždy autoři studie,” řekl Pavel Pipek, vědec z Botanického ústavu Akademie věd ČR, další autor studie. A dodává: „Je také nutné posílit principy otevřené vědy, a zavést pravidla, která by výzkumníkům zlepšila přístup k digitálním platformám a datům, na nichž jsou založeny.“

Některé černé skříňky zůstanou uzavřené navrhovaným řešením navzdory, a budou tedy v rozporu se standardy otevřené vědy. Vědci by si měli uvědomovat, jaké kompromisy jsou spojené s jejich používáním, a vyvarovat se jejich nekritického přijímání.

Text: Ivan Jarić, ivan.jaric@hbu.cas.cz

Podrobnější informace naleznete v článku publikovaném v časopise BioScience:

Jarić I, Pipek P, Anderson K, Baktoft H, Bertram MG, Canavan S, Elliott LR, Říha M a Gaston KJ (2026). The black-box future of ecology and conservation. BioScience https://doi.org/10.1093/biosci/biag119