Tema 10: SIGNIFICACIÓN FORMAL versus SIGNIFICACIÓN MATERIAL

1. En Estadística trabajamos con la significación estadística, que viene a ser una significación formal, una significación sin un contenido específico. Es un hablar abstracto: igualdad o diferencia, relación o no relación. Otra cosa es la significación médica, económica, biológica, psicológica, lingüística, etc, que la deben dictaminar los médicos, economistas, biólogos, psicólogos, lingüistas, etc, y que se trata de una significación material, con contenido. Es, ahora, un hablar concreto. Por ejemplo: “este aumento de respuesta genera una mejor calidad de vida”, “este tratamiento permite una movilidad que transforma a la persona en autónoma”. Sin embargo, veremos, al final de este tema, que también se han creado mecanismos matemáticos para establecer una medida lo más objetiva posible, mediante cálculos matemáticos, de la significación material.

2. Voy a centrarme, a continuación, en un tema médico y por eso hablaré de Significación médica, pero lo que diga sería perfectamente extrapolable a cualquier otro ámbito material y entonces deberíamos hablar de significación económica, biológica, psicológica, etc.

3. En un estudio nos podemos encontrar con resultados que nos lleven a una de estas cuatro combinaciones posibles: 1) Significación estadística y Significación médica. 2) Significación estadística y No Significación médica. 3) No Significación estadística y No Significación médica. 4) No Significación estadística y Significación médica.

4. El primer caso (Significación estadística y Significación médica) es la situación ideal. Nada que comentar. Todo perfecto. Hemos conseguido un resultado fiable estadísticamente y relevante médicamente.

5. El segundo caso (Significación estadística y No Significación médica) implica también un final del estudio, habitualmente.

6. La Significación estadística implica que los resultados son fiables, pero el que no sean significativos desde el punto de vista médico implica que es un resultado que no tiene ninguna trascendencia médica.

7. Supongamos que un estudio demuestra que un determinado fármaco permite un descenso en la proteinuria, en enfermos con una nefropatía.

8. Supongamos que este descenso sea desde un valor promedio de 425 mg/día a un valor de 405 mg/día, tratándose éste de un descenso estadísticamente significativo.

9. Y ahora supongamos que un nefrólogo nos dice que para obtener un descenso promedio de este nivel no compensa tomar ese fármaco.

10. Nos dice que no compensa tomarlo porque ese fármaco tiene unos efectos secundarios que no vale la pena asumir para obtener un descenso en la proteinuria que, en realidad, no cambia nada de la nefropatía del paciente.

11. Esta es una de las muchas situaciones posibles en las que podemos encontrar Significación estadística acompañada de No Significación médica.

12. Esto es muy importante tenerlo en cuenta porque a veces pensamos que el objetivo último y único es la Significación estadística. Y este es un error frecuente.

13. Tener Significación estadística pero No Significación médica sirve para muy poco, si es que sirve, en realidad, para algo. Por lo tanto, suele ser un punto y final de un estudio, habitualmente.

14. El tercer caso (No Significación estadística y No Significación médica) poco nos dice, también. Los resultados no son fiables.

15. Además, lo que vemos promete poco desde el punto de vista médico (o económico o lingüístico, etc). Al menos de momento.

16. Los estadísticos en estas situaciones acostumbramos a decir que todo está abierto, que puede pasar, todavía, cualquier cosa.

17. En estos casos conviene ampliar el estudio aunque los resultados, de momento, apunten que podemos acabar encontrando Significación estadística aumentando la muestra pero difícilmente encontremos Significación médica. No obstante, en principio debemos pensar que está todavía todo abierto. Pero la perspectiva es mala.

18. El cuarto caso (No Significación estadística y Significación médica) es el que tiene más interés comentar. Además, es muy frecuente, y genera muchos dolores de cabeza en el mundo de la ciencia.

19. Veámoslo mediante un ejemplo donde se comparan dos procedimientos terapéuticos.

20. Ante el tratamiento ante un infarto de miocardio es habitual ensayar comparativamente distintos protocolos de actuación.

21. Imaginémonos que se ha hecho una comparación entre dos protocolos y se ha contabilizado los que han muerto y los que no han muerto.

22. Tenemos, pues, dos variables cualitativas con dos categorías cada una: Mueren y No mueren, una de las variables. Protocolo 1 y Protocolo 2, la otra.

23. Supongamos la siguiente tabla de contingencias:

IMG_4372

24. En el Protocolo 1 mueren 7 y no mueren 93; o sea, muere el 7%. En el Protocolo 2 mueren 6 y no mueren 94; o sea, muere el 6%. Ante estos datos la OR es 1.18 y un intervalo de confianza del 95% es (0.38, 3.64).

25. A partir de estos valores la conclusión estadística es que no hay una relación entre tipo de protocolo y éxito porque no podemos rechazar la hipótesis nula (OR=1).

26. Observemos que la conclusión del contraste la obtenemos a partir de observar el intervalo.

27. Pero también podemos llegar a ella a partir del p-valor. El p-valor en este caso es 0.77, por lo que al ser superior a 0.05 estamos ante una OR no significativa.

28. Por lo tanto, no podemos decir que haya diferencias significativas entre los resultados de los protocolos que estamos comparando. Pero esto nos lleva a un tema muy importante.

29. Los cardiólogos que han propuesto el Protocolo 2 pueden pensar: Con el Protocolo 1 muere un 7%, con el Protocolo 2 el 6%; o sea, de cada cien infartos salvamos una vida.

30. Esto es relevante desde el punto de vista médico. Cualquier posición que suponga salvar vidas podemos entender que es relevante médicamente, si es que no hay secuelas adicionales. Por lo tanto, estamos ante un resultado con Significación médica pero el Tribunal estadístico dice: “no significativo”.

31. Y la estadística está por encima de todo. Esto es muy importante tenerlo bien claro. Es el Tribunal que dicta la última sentencia ante unos datos concretos.

32. Y si no es estadísticamente significativo no podemos decir que el Protocolo 2 salva más vidas, porque podría ser fruto del azar del muestreo.

33. Podría pasar perfectamente que pasáramos al Protocolo 2 y acabáramos viendo que al aplicarlo a miles y miles de personas los resultados obtenidos no fueran los que apuntaba el estudio. Y esto sería muy grave.

34. Esto es lo que significa que algo no sea estadísticamente significativo: que no es fiable. Que podría la realidad no ser como lo que estamos viendo en la muestra.

35. Pero pasar de un 7 a un 6% es Significativo médicamente. Tenemos, pues, la situación planteada: No Significación estadística y Significación médica.

36. En estos casos la Estadística claramente sólo debe dar una respuesta: Hay que aumentar el tamaño de muestra.

37. Al aumentar el tamaño de muestra pueden darse dos situaciones: 1) Que la Estadística tenía razón al ser cautelosa y al aumentar la muestra la diferencia que antes se veía se disuelve y ya o no existe o es tan pequeña que ya no es Significativa médicamente. 2) Que se mantenga la diferencia y al aumentar la muestra pase ya a ser Significativa estadísticamente y, por lo tanto, pasemos a una situación del primer tipo: Significación estadística y Significación médica.

38. Para situaciones de este tipo en las que una pequeña diferencia puede tener Significación médica y en las que es necesario grandes tamaños de muestra para tener Significación estadística, se han desarrollado mucho, últimamente, dos tipos de estudios: 1) Los estudios multicéntricos. 2) El metaanálisis.

42. En ambos casos la finalidad es aumentar el tamaño de muestra para encontrar, así, Significación estadística.

43. En los estudios multicéntricos se hace coordinando diferentes centros en un único estudio y en el metaanálisis coordinando en un estudio descoordinados estudios paralelos.

44. Volvamos a los datos anteriores de la comparación de protocolos. La OR era 1.18, el intervalo del 95% (0.38, 3.64) y el p-valor 0.77.

46. El Protocolo 1 tiene un 7% de muertes y, en cambio, el Protocolo 2 un 6%. Y decíamos que para un cardiólogo la diferencia es relevante. Pero no tiene Significación estadística.

47. Vamos a ver qué pasaría si tuviéramos un tamaño de muestra superior. Supongamos la siguiente:

IMG_4369

48. Con esta muestra la OR sigue siendo la misma; o sea, 1.18, porque lo único que hemos hecho es multiplicar por 10 cada valor.

49. El intervalo de confianza del 95% es, ahora, (0.86, 1.68) y el p-valor es 0.36. Seguimos igual, por lo tanto. Aumentemos aún más el tamaño muestral.

50. Supongamos que tenemos ahora:

IMG_4370

Ahora hemos multiplicado por 100. La muestra es muy grande.

51. La OR sigue, lógicamente, siendo 1.18, porque las proporciones no han cambiado, pero el intervalo del 95% sí que ha cambiado. Ahora es: (1.05, 1.32) y el p-valor también: 0.004. Ahora ya es estadísticamente significativo.

52. Observemos que ahora el 1 no está dentro del intervalo de confianza de la OR. Ahora la Estadística apuesta por pensar en una diferencia fiable.

53. Ahora esta diferencia entre un 7% y un 6% entre los dos protocolos comparados tiene Significación estadística y Significación médica.

54. Pero, en circunstancias como estas, a unos resultados así, con un tamaño de muestra tan grande, únicamente es posible llegar o mediante estudios multicéntricos o de metaanálisis, como hemos comentado.

55. En Estadística, tradicionalmente, como hemos estado comentando a lo largo de todo este tema, el problema ha sido valorar si hay significación estadística o no, lo que quiere decir que la Estadística se ha preocupado, fundamentalmente, de la Significación formal, no de la significación material.

56. Sin embargo, en ciertos campos del conocimiento, especialmente en Psicometría y en Ciencias humanas y sociales, se han desarrollado unos procedimientos para medir la Significación material. Tradicionalmente a estos intentos de medir la Significación material se les denomina “Tamaño del efecto”. En inglés es el denominado “Effect size”.

57. Así como en un juicio se evalúa fundamentalmente la culpabilidad o la inocencia, en Estadística nos interesa, básicamente, ver la igualdad versus la diferencia, la no relación respecto a la relación, etc. En definitiva, lo que se pretende es establecer mecanismos para decidir entre dos opciones.

58. En Estadística nos interesa ver si, con lo que vemos, con la información de que disponemos, podemos afirmar, con pocas probabilidades de equivocarnos, si dos medias poblacionales son distintas porque podamos delimitar ya el signo de tal desigualdad, o podemos afirmar que hay relación entre dos variables pudiendo delimitar el signo de esa relación, etc. No nos interesa tanto precisar el grado de esa diferencia, el grado de esa relación. Esto se suele reservar más a los especialistas.

59. Es como lo que sucede en el mundo judicial con un tribunal: le interesara delimitar, básicamente, la inocencia o la culpabilidad y luego, una vez establecida la culpabilidad, si es que acaba estableciéndose, reservar a otros el papel de aplicar la pena adecuada al infractor.

60. La Estadística centra sus esfuerzos en ver si alguien es un ladrón o no, no en precisar si lo que ha robado es poco o mucho. Esto es otro problema. Un problema distinto. En definitiva, la Estadística fundamentalmente se centra en esta Significación formal.

61. Lo importante, en primer lugar, en Estadística, es, pues, delimitar eso. ¿De qué sirve decir que a alguien se le acuse de robar mil millones de euros si, después, se acaba demostrando que no es culpable? Hasta que no se ha demostrado que es un ladrón aunque sea mucho lo que presuntamente ha robado en realidad no podemos decir que lo ha robado. La Estadística se reserva a este paso: Es o no un ladrón. Y aquí básicamente se acaba nuestro trabajo. Valorar si es mucho o no es otro tema, ya no estadístico.

62. La d de Cohen, el factor F, la eta al cuadrado, son ejemplos de cálculo del tamaño del efecto. Existen y pueden crearse muchos mecanismos para evaluar el tamaño del efecto; o sea, el tamaño de la diferencia de las medias de dos grupos o el tamaño de la relación que hay entre dos variables, etc.

62. Veamos la d de Cohen. Se aplica en el contexto de la t de Student, en la comparación de las medias de dos poblaciones. Pero el caso, por su sencillez, nos puede servir para delimitar con precisión de lo que estamos hablando.

63. La d de Cohen es el siguiente cálculo:

 IMG_5980

64. El objetivo, como puede verse perfectamente en la fórmula, es ver si la diferencia entre las medias muestrales es muy distinta relativamente a la dispersión que tenemos en las muestras que comparamos. Distingue situaciones como las siguientes:

 IMG_5981

65. Observemos que en estas tres comparaciones de dos grupos, la diferencia de medias muestrales es la misma, sin embargo, arriba la dispersión es muy pequeña y, por el contrario, abajo, la dispersión es muy grande. Relativamente son mucho más distantes las medias de arriba que las de abajo. Esto es lo que mide la d de Cohen y, en definitiva, lo que miden todos los procedimientos enmarcado en este ámbito del Tamaño del efecto (Effect size).

66. Se pretende medir, pues, el grado de separación, el grado de efecto distancia, el grado de segregación que hay entre los grupos que estamos comparando.

67. En cuanto a cómo interpretar un determinado valor de d de Cohen, suele considerarse que una d en torno a 0,2 es un efecto pequeño, una d en torno a 0,5 un efecto moderado y una d por encima de 0,8 un efecto grande. El valor de d puede ser potencialmente muy grande.

68. Es importante entender bien que aquí no se tiene en cuenta el tamaño de muestra. El tamaño muestral no juega ningún papel. Todo lo contrario que en la Significación formal, donde el tamaño de muestra juega un papel decisivo. Esto es muy importante. En los cálculos del Tamaño del efecto no se tiene en cuenta el tamaño muestral, como puede verse en el cálculo de la d de Cohen.

69. Observemos los siguientes dos casos:

IMG_5982

70. Como la d de Cohen sólo tiene en cuenta la diferencia de medias y la desviación estándar, en el caso de arriba tenemos una d pequeña, sin embargo, abajo tenemos una d grande porque las medias de las dos muestras están bastante separadas para el nivel de dispersión que tenemos. Como en el cálculo de la d de Cohen no juega ningún papel el tamaño muestral estaríamos viendo como mucho más interesante la situación de abajo que la de arriba desde el punto de vista del Tamaño del efecto, pero desde el punto de vista estadístico, de Estadística formal, de Estadística donde la Significación formal es lo esencial, el caso de arriba es fiable, es significativo, es estable; sin embargo, el de abajo no lo es, es poco fiable, no está establecido de forma sólida.

71. Es como si tuviéramos dos presuntos ladrones: Uno ha robado presumiblemente mil millones de euros y el otro mil euros. Parece que el primero ha conseguido un robo más censurable. El Tamaño del efecto es mayor. Pero hasta que no tengamos la significación formal de este robo no podemos valorar su importancia. Es posible que al final no sea aquél el que ha materializado el robo, o no se pueda demostrar y, a lo mejor, el segundo ladrón, con poco Tamaño del efecto, se demuestre claramente que fue realmente él el que materializó el robo.

72. Es cierto que una vez vista la Significación formal es interesante valorar aspectos cuantitativos de la Significación material. Pero, siempre, como un segundo nivel. Jerárquicamente es claro que debe estar una Significación (la formal) por encima de la otra (la material).

12 pensamientos en “Tema 10: SIGNIFICACIÓN FORMAL versus SIGNIFICACIÓN MATERIAL

  1. Jesus

    !!que magnífica explicación!!
    Acabo de cerrar una tesis en psicología que defenderé en enero y me ha ayudado mucho a clarificar el concepto “d”.
    Aprovecho para preguntarle, si tiene a bien contestar, ¿es sensato cuando evalúas 3 grupos una prueba y dos de ellos arrojan significación y uno no, hacer la d de cohen para los tres? por supuesto el que no da significación, su representación en cajas y bigotes es plana, pero ¿puede usarse en un texto para ponerlo por oposición a los dos que si dan significación o ponerlo es una redundancia?
    Gracias y saludos

    Responder
    1. estadisticallopis Autor de la entrada

      Gracias por tus palabras, Jesús. Me alegro que te sea útil mi blog.
      Respecto a lo que me preguntas, la d de Cohen es un recurso creado para evaluar, para valorar un efecto que se ha comprobado, previamente, que es significativo. Si no es significativa la diferencia entre dos grupos no tiene sentido calcular un efecto, porque no es fiable. Te pongo un ejemplo con el baloncesto, que ya has visto que suelo usarlo en mi blog: si falta 1 minuto para acabar el partido y mi equipo gana de 20, es ya significativo y puedo ya pronosticar con mucha fiabilidad que ganaré aproximadamente de 20, pero si mi equipo gana de 20 faltando 30 minutos para acabar el partido, no es aún un resultado significativo (más del 5% de veces un equipo en esas circunstancias ha acabado perdiendo), y no tiene sentido decir que acabaré ganando de unos 20 puntos, porque el resultado está todavía muy abierto. Hay muchísimos resultados posibles, todavía. Incluso es aún posible perder.
      El tamaño del efecto sólo tiene sentido evaluarlo en diferencias significativas. Si calculas el efecto sin haber diferencias significativas se trata de un efecto no fiable, un efecto muestral demasiado alejado, muy posiblemente, del real.
      Espero haberte aclarado la duda.
      Un saludo
      Jaume

      Responder
      1. Jesus

        Perfecto Jaume; muchas gracias por contestar. Tomo buena nota, lo retiraré del texto. Mi Directora de tesis me lo sugirió pero no es especialista en estadística, así que me invitó a consultarlo.
        Pienso recomendar tu blog a todo desdichado que ande con el SPSS 😉
        Cordialmente;

        JB

  2. Mara

    Buenas tardes, Jaume:
    ¡Cuánto te agradezco este blog! Me ha ayudado entender un poco más cómo emplear la estadística para explicar la realidad humana (sin “torturar” los datos).
    Soy psicológa y estoy en proceso de finalizar la tesis (parece que te vas a encontrar muchos/as compañeros de profesión…). Te agradecería muchísimo si me pudieras orientar en lo siguiente: uno de mis análisis ANOVA tiene algunos resultados con p = .078 y el eta cuadrado = .046 (por ejemplo). El ETA cuadrado lo he calculado a tarvés de la opción de comparación de medias de SPSS, Tabla Anova y eta cuadrado ¿Lo considerarías como el cuarto supuesto “no significativo estadísticamente y signficativo materialmente? Este análisis trata sobre el efecto de una estrategia en la percepción de los riesgos psicosociales y no sé muy bien cómo interpretarlo, desde los valores indicados.
    Una vez más, te doy las gracias por todo lo que has plasmado en tu blog!
    Saludos,
    A.G.

    Responder
    1. estadisticallopis Autor de la entrada

      Sí, podría ser un caso de este tipo que dices. Muy frecuente, por cierto. Suele ser debido a tamaños muestrales pequeños. La estadística necesita tener tamaños de muestra suficientes para considerar formalmente significativo algo que materialmente, a la luz de cálculos del tamaño del efecto (effect size) parece existir. Digamos que la estadística no se decanta hasta que lo que ve no lo ve con suficiente regularidad como para descartar que eso sea fruto del azar. Mírate, también, el tema de ANOVA donde explico la eta cuadrado.
      Muchas gracias, por cierto, por tus palabras. Ayudan a continuar.

      Responder
  3. A.G.

    Muchas gracias, Jaume, por tu respuesta tan rápida! Me has ayudado a plantear e interpretar mejor mi investigación. Seguramente tenga “porblemas” con la p por muestra pequeña e incidental… En mi campo -la psicología transcultural- el tema del muestreo es bastante complejo.
    Te deseo que tengas mucha energía para seguir con tu blog.
    Muchos saludos,
    A.G.

    Responder
  4. Raúl González

    El enunciado 65 tiene un error. Cuando dice “arriba la dispersión es muy grande” debería decir “arriba la dispersión es muy pequeña” y viceversa. El concepto esta cambiado.
    Felicidades! Todos los temas estan muy bien conceptualmente.

    Responder
  5. Eva

    Hola Jaume,

    De nuevo acudo a tu blog para mis dudas con la estadística porqué me es realmente de utilidad todas tus explicaciones.

    Te cuento, un revisor de un artículo me indica que debería poner el size effect en los resultados de un t-student. El problema es que es un t student para datos apareados y he leído que hay controversia al respecto sobre el uso del size effect in paired t-test http://www.uccs.edu/lbecker/effect-size.html#III. Effect size measures for two dependent

    ¿Tu qué opinas?

    Muchísimas gracias por tu ayuda.

    Responder
  6. Ana Belén

    Hola Jaume.
    En primer lugar, darte la gracias por este blog que gracias a mi trabajo fin de máster de investigación en ciencias sociosanitarias acabo de descubrir.
    Sinceramente haces que la estadística sea más comprensible de lo que realmente es, y hasta genera en mí ansia por descubrirla un poquito más.

    Se me plantea una duda que quiero exponer. Mi investigación gira en conocer el efecto de un nuevo modelo de atención centrado en la persona en la calidad de vida de los residentes de un centro residencial de ancianos. Se trata de un estudio cuasi-experimental con grupo control y grupo experimental con medidas pretest y postets. La muestra en ambos grupos es muy pequeñita (14 residentes), con lo cual, las diferencias estadísticas no son en algunos casos muy significativas, de ahí, que mi tutora me proponga medir el tamaño del efecto, que en algunos casos es elevado (sobre todo en alguna de las dimesiones que componen el concepto calidad de vida).

    Mi duda es la siguiente. ¿Estaría bien interpretado este dato?:
    Tras realizar el análisis comparativo de las medias que nos permite comprobar las diferencias de los grupos, en la dimensión Relaciones Interpersonales, los resultados indican que no existen diferencias significativas entre los grupos (F (1,23) = 2.76, p = .11), por lo que, los grupos son equivalentes en esta dimensión.
    El efecto del tratamiento en esta dimensión es moderado. (Eta cuadrado .11)

    No se muy bien como hablar del efecto del tratamiento (nuevo modelo de atención residencial).

    Y por último quería preguntarte, ¿cómo definirías tú la significación material? Pese a que he leído este artículo, y logro entender lo que es, no sabría explicarla en mi trabajo.

    Te agradezco de antemano tu tiempo y reitero mi enhorabuena por este blog. Haces una gran labor.

    Un saludo.

    Responder
    1. estadisticallopis Autor de la entrada

      La significación material es el tamaño del efecto. Una cosa es que haya diferencia significativa (formal) y otra cosa es que esa diferencia entre medias sea, relativamente a la dispersión que tengamos, una diferencia grande o pequeña (material o tamaño del efecto, tamaño relativo de la diferencia). En esta última el tamaño de muestra no tiene la influencia directa que tiene en la significación estadística.

      Responder

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s