Mijn bestand met publicaties bevat een aantal met het trefwoord ‘aborted’, dat betekent ‘afgelast’. Het zijn stukken waar ik ooit aan ben begonnen en die zijn verzand. Iedere wetenschapper heeft van die ongepubliceerde stukken. Hoe erg is het als onderzoek niet wordt gepubliceerd?

Soms is het echt erg, bijvoorbeeld als bedrijven proberen negatieve effecten van nieuwe medicijnen stil te houden.[i] Ook in het voedingsonderzoek komt dat voor. Een voorbeeld is een studie naar transvet uit melk. Transvet is slecht voor hart en bloedvaten. Aan industrieel vervaardigd voedsel wordt het sinds een jaar of tien niet meer toegevoegd, maar in dierlijke producten zoals melk, kaas en rundvlees zit het van nature. De hoeveelheid is klein en uit gezondheidsoogpunt doet het er weinig toe, maar voor het imago van bijvoorbeeld roomboter is het niet prettig dat er iets in zit wat in margarine niet mag. De zuivelindustrie zegt dat transvet uit melk natuurlijk is en geen effect heeft op het hart, maar dat is omstreden.[ii]

Een grote Amerikaanse studie moest het antwoord geven. Nestlé – van oorsprong een melkbedrijf –produceerde vijftig kilo[iii] van het pure transvetzuur uit melk en huurde samen met de Amerikaanse en Australische zuivelindustrie het voedingsinstituut in van het Amerikaanse ministerie van Landbouw. Dat voerde in 2009 de studie uit.[iv]Er is tot nu toe geen publicatie van verschenen, hoewel de uitkomst zonneklaar was: transvet uit melk is even ongezond als industrieel transvet. Ik weet dat omdat de resultaten in 2010 zijn vertoond op een zuivelcongres in Nieuw Zeeland.Een Turkse zuivelfirma zette de PowerPoint presentatie op het web en daar vond ik hem.[v]Meer is er over de studie niet bekend gemaakt; ik vermoed dat de sponsors geen ruchtbaarheid willen geven aan deze onaangename uitkomst. Dat is onethisch, niet alleen omdat hij antwoord geeft op een belangrijke vraag maar ook omdat honderd vrijwilligers drie maanden lang naar het laboratorium zijn gekomen om speciale voedingsmiddelen te eten en bloed af te laten nemen.[vi] Alles voor niets.

Toch is het niet altijd onethisch om resultaten ongepubliceerd te laten.[vii] In het laboratorium gooit op vrijdagmiddag menige Willie Wortel puur uit nieuwsgierigheid iets bij elkaar wat niet in de planning stond. Soms levert dat een ontdekking op, meestal niet. Moet je zo een mislukt proefje toch publiceren? Het kost een week om het op te schrijven en een halve middag om het in te dienen bij een wetenschappelijk tijdschrift, die vinden het niet lezenswaardig,en dan kun je opnieuw beginnen. Dat schiet niet op. Laat de Willie Wortels in vrijheid met hun petrischalen stoeien. Meestal komt er niets uit en dan hoeft dat niet gepubliceerd te worden. Bij de uitkomsten die interessant genoeg zijn om wel te publiceren zit zo nu en dan iets wat niet klopt, maar dat wordt snel genoeg ontmaskerd. Laboratoriumonderzoek is gemakkelijk te herhalen en laboratoriummuizen zijn overal hetzelfde,als iets niet repliceerbaar is zullen concurrenten dat snel aan de kaak stellen.[viii]

Bij onderzoek met proefpersonen ligt dat anders. Dat doe je niet na op een vrijdagmiddag, en mensen zijn geen muizen, ze reageren allemaal anders. Daarom moeten studies met mensen altijd gepubliceerd worden, anders wordt het beeld vertekend. Neem het effect van visvetzuren op depressie. Daar zijn 38 studies over gepubliceerd, waarvan er dertig een gunstig effect lieten zien en acht een ongunstig effect.[ix]Dat die uitkomsten zo verschilden komt door toevallige fluctuaties. Vergelijk het met het afvullen van blikjes van 70 gram tomatenpuree: in het ene blikje kan door toeval 66 gram terecht komenen in het andere 74 gram.[x]Dat is geen bedrog, gemiddeld krijg je op den duur 70 gram. Maar bij die depressiestudies is een deel van de informatie zoek, de blikjes met minder dan 70 gram zijn weggemoffeld waardoor het gemiddelde geflatteerd wordt.

Er bestaat een statistische techniek genaamd Trechterplot waarmee je kunt nagaan of studies met een minder gunstige uitkomst systematisch ongepubliceerd zijn gebleven.[xi]Trechterplot laat zien dat er naast die 38 gepubliceerde studies nog eens een stuk of twintig moeten bestaan waarin de depressie juist erger werd na het slikken van visolie, en die niet openbaar zijn gemaakt. Als je die verdonkeremaande studies zou combineren met de 38 die wel openbaar zijn krijg je, net als bij de tomatenpuree, het juiste gemiddelde en dat is nul; visolie werkt niet tegen depressie. Ook Trechterplot is ontwikkeld door wetenschappers; wij houden elkaar eerlijk.

 “Verdonkeremanen” is trouwens te sterk. Elke individuele depressie-onderzoeker dacht waarschijnlijk: ‘Die visolie werkt niet, weg ermee, ik ga niet tobben om het  gepubliceerd te krijgen, ik ga iets zoeken wat wel werkt.’ Toch is dat fout, want met zijn twintigen creëerden ze ongewild de indruk dat die 38 gepubliceerde studies het hele verhaal waren en dat visolie werkt.

Mijn eigen lijst van ongepubliceerde studies bestaat vooral uit half-affe opiniestukken en oninteressante metingen. Maar er zit ook nuttige informatie tussen. Bijvoorbeeld het effect van CLA op TNF-α. Dat moet ik echt eens opschrijven. Zucht.

 

[i]trials with positive findings are more likely to be published, and published more quickly, compared to trials with negative findings (odds ratio 3.90…)’ Hopewell, S., Loudon, K., Clarke, M.J., Oxman, A.D., Dickersin, K., 2009. Publication bias in clinical trials due to statistical significance or direction of trial results. Cochrane Database of Systematic Reviews.

Hoekman vond recent dat bij studies naar het effect van nieuwe medicijnen op bloedsuiker de kans op publikatie in een wetenschappelijk tijdschrift bij een positief resultaat negen keer zo groot was als bij een negatief resultaat. Het wordt er dus niet beter op (Hoekman J. Science in an age of globalisation. Ch 6, p 168. Proefschrift, TU Eindhoven 2012. Uit de cijfers voor industry-funded trials in table 6.1 berekende ik een odds ratio van 8.8)

[ii]Brouwer, I.A., Wanders, A., Katan, M.B., 2010. Effect of animal and industrial trans fatty acids on HDL and LDL-cholesterol levels in humans – a quantitative review. Plos One 5, e9434. 

[iii] Die 50 kg isdoor mij als volgt berekend. Aantal proefpersonen: 105. Duur van vacceenzuurdieet: 24 dagen. Gehalte vacceenzuur in dieet: 7 g per 2000 kcal. Energie-inname: 2500 kcal/d. Totale verliezen tussen bruto productie en netto consumptie: 55%. (Energie-inname en verliezen zijn aannames van mij, de andere cijfers zijn uit David J. Baer, PhD. US Department of Agriculture, Agricultural Research Service, Beltsville Human Nutrition Research Laboratory. New Findings on Dairy Trans Fat and Heart Disease Risk. IDF World Dairy Summit 2010, 08 - 11 November 2010)

[iv] ClinicalTrials.gov trial register, Identifier NCT00942656. Effect of Trans Fatty Acids From Ruminant Sources on Risk Factors for Cardiovascular Disease

[v]David J. Baer, PhD. US Department of Agriculture, Agricultural Research Service, Beltsville Human Nutrition Research Laboratory. New Findings on Dairy Trans Fat and Heart Disease Risk. IDF World Dairy Summit 2010, 08 - 11 November 2010 .Auckland, New Zealand.
http://www.asuder.org/IDF_world_summit_2010/wednesday/nutrition_and_health/06-Session0_2-David-Baer.pdf . Intussen bestaat deze link niet meer, maar de file is beschikbaar via: http://web.archive.org/web/20130208183218/http://wds2010.com/delegates/presentations/10wed/06-Session0_2-David%20Baer.pdf (met dank aan J. Borns)

[vi]Gebauer, S.K., Destaillats, F., Mouloungui, Z., Candy, L., Bezelgues, J.-B., Dionisi, F., Baer, D.J., 2011. Effect of trans fatty acid isomers from ruminant sources on risk factors of cardiovascular disease: study design and rationale. Contemp Clin Trials 32, 569–576.

[vii] Voor achtergrond zie: J.P. Vandenbroucke. De plaats van het klinische experiment in de geneeskunde. Ned Tijdschr Geneeskd. 1988;132:2014-6.

Vandenbroucke, J.P., 2010. Preregistration of Epidemiologic Studies: An Ill-founded Mix of Ideas. Epidemiology 21, 619–620.  

[viii] Proefdieronderzoek is een grensgeval; je wilt het niet stuk reguleren (zie voetnoot 7), maar er verdwijnt wel erg veel in de la. (Ter Riet, G., Korevaar, D.A., Leenaars, M., Sterk, P.J., Van Noorden, C.J.F., Bouter, L.M., Lutter, R., Elferink, R.P.O., Hooft, L., 2012. Publication Bias in Laboratory Animal Research: A Survey on Magnitude, Drivers, Consequences and Potential Solutions. PLoS ONE 7, e43404.)

[ix]De studies zijn verzameld en geanalyseerd in: Appleton, K.M., Rogers, P.J., Ness, A.R., 2010. Updated systematic review and meta-analysis of the effects of n−3 long-chain polyunsaturated fatty acids on depressed mood. Am J Clin Nutr 91, 757–770. Dit is een overzicht van 29 studies waarvan sommige meerdere behandelingen testten, het totaal aantal behandelingen was 38. Zij laten ook de trechterplot zien waaruit blijkt dat er studies moeten bestaan met minder gunstige uitkomsten die zij niet hebben kunnen achterhalen.

[x] Een blikje mag maximaal 4.5 gram van die 70 gram afwijken zolang het gemiddelde van grote aantallen blikjes maar 70 gram is. Zie: ℮-teken. http://nl.wikipedia.org/wiki/E-teken

[xi]Egger, M., Davey Smith, G., Schneider, M., Minder, C., 1997. Bias in meta-analysis detected by a simple, graphical test. BMJ 315, 629–634.

Voor uitleg hoe de trechterplot werkt zie: http://en.wikipedia.org/wiki/Funnel_plot