MANUAL DE EVALUACIÓN DE IMPACTO-2003

40
Dirección General Dirección de Planeación MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL Diseñado por: Luis Francisco Ochoa Rojas Profesional Grado 10 Noviembre de 2003

Transcript of MANUAL DE EVALUACIÓN DE IMPACTO-2003

Dirección General

Dirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Diseñado por: Luis Francisco Ochoa Rojas Profesional Grado 10

Noviembre de 2003

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 2 de 40

2

Control del Documento

Nombre Cargo Dependencia Firma Fecha Autores Luis Francisco

Ochoa Rojas Profesional Grado 10

Dirección de Planeación

2003

Revisión Aprobación

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 3 de 40

3

TABLA DE CONTENIDO

PRESENTACIÓN ................................................................................................................................................. 4

OBJETIVO DEL MANUAL ................................................................................................................................. 5

ALCANCE DEL DOCUMENTO ......................................................................................................................... 5

1. ALGUNOS FUNDAMENTOS TEÓRICOS ............................................................................................................ 6

1.1. EVALUACIÓN .................................................................................................................................................... 6 1.2. EVALUACIÓN DE IMPACTO ........................................................................................................................... 7 1.3. EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL ........................................................ 8 1.4. ¿PARA QUÉ SE EVALÚA EL IMPACTO DE LA FORMACIÓN PROFESIONAL? ................................... 8 1.5. ¿CÓMO EVALUAR EL IMPACTO DE LA FORMACIÓN PROFESIONAL? .............................................. 9 1.6. DISEÑOS METODOLÓGICOS PARA LA EVALUACIÓN DE IMPACTO ................................................ 10 1.7. ASPECTOS A MEDIR Y VALORAR EN LA EVALUACIÓN DE IMPACTO ............................................. 12

2. PROCESO Y PROCEDIMIENTOS PARA LA EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL ........................................................................................................................................................... 14

2.1. SELECCIONAR DISEÑO DE INVESTIGACIÓN EVALUATIVA DE IMPACTO A UTILIZAR ................ 17 2.2. DISEÑAR INDICADORES DE EVALUACION DE IMPACTO ................................................................... 18 2.3. DISEÑAR INSTRUMENTOS DE RECOLECCION DE DATOS ................................................................ 19 2.4. DISEÑAR METODOLOGIA DE RECOLECCION DE DATOS .................................................................. 20 2.5. CAPACITAR METODOLOGICAMENTE A LOS RESPONSABLES OPERATIVOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN ........................................................................................... 22 2.6. RECOLECTAR LOS DATOS EN LOS INSTRUMENTOS (FORMULARIOS)......................................... 22 2.7. DIGITAR LOS DATOS RECOLECTADOS .................................................................................................. 23 2.8. PROCESAR ESTADISTICAMENTE LOS DATOS DIGITADOS ............................................................. 24 2.9. ANALIZAR LA INFORMACION PROCESADA ........................................................................................... 24 2.10. ELABORAR INFORMES .............................................................................................................................. 25

REFERENCIAS DOCUMENTALES Y BIBLIOGRAFICAS CONSULTADAS .................................................. 26

ANEXOS ....................................................................................................................................................................... 28

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 4 de 40

4

PRESENTACIÓN En el marco del documento CONPES 3188 del 31 de julio de 2002 en el que somete a consideración del Consejo Nacional de Política Económica y Social una propuesta de institucionalización de la evaluación de impacto como instrumento de apoyo en la toma de decisiones de programación y asignación del gasto social, así como en la orientación, diseño y formulación de políticas y programas de inversión social, se desarrolla el diseño de éste Manual. La institucionalización de la evaluación de impacto como instrumento de apoyo a la toma de decisiones de política social es deseable en la medida en que permite el logro de dos fines asociados: el aprendizaje institucional y el uso racional de recursos escasos. De esta forma, servirá para generar recomendaciones estratégicas de política, orientar y ajustar los programas sociales. De acuerdo con lo anterior, el presente Manual de Proceso y Procedimientos de la Evaluación de Impacto de la Formación Profesional Integral es el resultado de la recopilación y ajuste de experiencias de los estudios de impacto que ha realizado el Servicio Nacional de Aprendizaje SENA en cerca de 15 años, así como de la decantación de las metodologías más reconocidas en este tipo de estudios en el ámbito internacional. Se espera que sea una herramienta de orientación teórico-práctica en el diseño de este tipo de evaluaciones en el SENA y una propuesta metodológica que contribuya a enriquecer el arsenal técnico para la evaluación de los programas de Formación Profesional. El Manual presenta al inicio una breve fundamentación teórica en evaluación y evaluación de impacto, seguidamente presenta las alternativas de diseños de investigación evaluativa de impacto y finalmente la descripción con cierto nivel de detalle del proceso y procedimientos de este tipo de estudios. Como anexos se presentan varios ejemplos de los subproductos que surgen en algunas actividades clave del proceso, que por su nivel de detalle y complejidad ameritan mostrarse como ayuda.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 5 de 40

5

OBJETIVO DEL MANUAL Establecer las directrices técnicas y metodológicas que se deben tener en cuenta para la ejecución de la Evaluación de Impacto de la Formación Profesional Integral que imparte el SENA, en consonancia con el sistema de evaluación orientada a resultados en las entidades públicas (SINERGIA). ALCANCE DEL DOCUMENTO Este manual es aplicable en todos los centros del SENA que adelantan programas de formación.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 6 de 40

6

1. ALGUNOS FUNDAMENTOS TEÓRICOS Con el propósito de facilitar la comprensión del proceso de Evaluación de Impacto de la Formación Profesional Integral, a continuación se presentan los conceptos básicos sobre evaluación e impacto y la breve descripción de algunos diseños metodológicos y técnicas que la configuran. Cabe anotar también que los conceptos presentados son tratados aquí de la manera más sencilla posible, enfocados a programas educativos y sociales, sin ninguna pretensión de profundidad teórica, habida cuenta del interés técnico, metodológico y práctico que tiene el documento. 1.1. EVALUACIÓN En la literatura especializada se han realizado múltiples esfuerzos con el fin de aclarar el significado de la evaluación, distinguiéndola de otros conceptos como el de medición y el de investigación. Existen numerosos estudios que trabajan el concepto de la evaluación, “los cuales han dado como resultado el establecimiento de varios enfoques evaluativos con su correspondiente significado en educación y ciencias sociales.… Con respecto a la definición de evaluación hay muchos trabajos y propuestas, por ejemplo Tyler (1950) la concibe como un proceso para determinar hasta qué punto se han logrado los objetivos educativos. Nevo (1983) señala que “otra definición muy aceptada es aquella de “suministrar información para tomar decisiones”, sugerida por varios evaluadores tales como Cronbach (1963); Stufflebeam (Stufflebeam et al., 1971) y Alkin (1969). Recientemente se ha alcanzado un amplio consenso entre evaluadores con respecto a la definición de evaluación como la determinación del mérito o el valor (Eisner, 1979; Glass, 1969; House, 1980; Scriven, 1967; Stufflebeam, 1974); o como actividad que comprende tanto la descripción como el juicio (Guba & Lincoln, 1981; Stake, 1967)”. (p. 1). Por su parte Stufflebeam (1987) presenta la definición “que ha adoptado el Joint Committee on Standars for Educational Evaluation. La definición es la siguiente: la evaluación es el enjuiciamiento sistemático de la valía o el mérito de un objeto”. (p. 19).”1 Como se ve no existe unidad de criterio que permita definir la evaluación de manera que satisfaga las distintas perspectivas. Sin embargo para los efectos del presente manual se entenderá la evaluación como proceso de medición y valoración. Como medición, ya que los objetos de evaluación poseen unos atributos que son cuantificables. Como valoración, pues luego de medir los atributos del objeto se puede establecer un juicio sobre el valor o el mérito de ese objeto, esto último teniendo en cuenta los aportes de Stufflebeam y Shinkfield (1987) al respecto.2 1 FRANCO, Nohora Cecilia; OCHOA, Luis Francisco. La Racionalidad de la Acción en la Evaluación. Un análisis crítico desde la Teoría de la Acción Comunicativa. Editorial Magisterio. Colección Mesa Redonda. No. 51. Santafé de Bogotá, D. C., 1997. p. 64. 2 “Los términos valía o mérito también deben ser definidos para enriquecer nuestro concepto de evaluación. Scriven (1981) ya ha indicado las trascendentales diferencias que hay entre ellos y el importante papel que desempeñan a la

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 7 de 40

7

Es por lo anterior que aquí se entiende la evaluación como el proceso por el cual a través de la medición y el análisis se le atribuye un juicio de valor y de mérito al objeto evaluado, con el fin último de tomar decisiones sobre éste. “Al contar con información objetiva sobre los efectos de los programas es posible tomar decisiones atinadas en materia de asignación de partidas presupuestarias y de planeación de los programas”3 1.2. EVALUACIÓN DE IMPACTO Para abordar el concepto de evaluación de impacto es necesario comprender el concepto de impacto. El impacto está vinculado con la relación causa-efecto, lo que implica que una variable X genera un efecto sobre otra variable Y. El impacto es ese efecto producido. Esta relación se puede expresar en términos de explicación causal, la cual se define como “la respuesta a la pregunta de “por qué” ha sucedido un hecho o aparece un fenómeno, es decir, constituye la respuesta al interrogante sobre las causas o motivos fundamentales, estableciendo en dicha respuesta relaciones lógico-matemáticas que implican mediciones, lo cual está determinado por definiciones escalares de la realidad objeto de indagación evaluación”4. La evaluación de impacto, para el caso de los programas educativos y sociales, mide y valora los cambios en individuos o grupos que pueden ser atribuidos a un programa o a una política específica, en otras palabras mide y valora el efecto de un programa sobre una población beneficiaria del mismo. Esto significa que dicha evaluación busca determinar si un programa o política produjo los efectos deseados en las personas, grupos humanos, hogares o instituciones beneficiarias; y si tales efectos se pueden atribuir a su intervención. También permiten observar consecuencias no previstas en los beneficiarios, ya sean estas positivas o negativas.5

hora de determinar el valor de algo. Por ejemplo, un programa para formar profesores de Historia, ¿podrá producir profesores que enseñen Historia a otros de un modo efectivo y de manera que se pueda confiar con ellos? En general, ¿hará bien lo que se supone que debe hacer? si lo hace, será meritorio, pero puede que no sea válido. Por ejemplo, si la sociedad ya no necesita más profesores de Historia porque ya tiene más de los que puede emplear, entonces aunque el programa sea muy bueno -y quizá sea mejor que otros parecidos-, continuar con el mismo nivel de expansión del programa quizá no sea la mejor manera de gastar sus escasos recursos. Aunque un programa meritorio puede no ser válido, debemos indicar que un programa que no sea meritorio no puede ser válido. Puede que no sea bueno formar malos profesores de Historia aunque exista una gran escasez de ello”. (Stufflebeam y Shinkfield, 1987, p.p. 20-21). 3 WEISS, Carol H. Investigación Evaluativa. Editorial Trillas. México, 1978. p. 14. 4 FRANCO, Nohora Cecilia; OCHOA, Luis Francisco. La Racionalidad de la Acción en la Evaluación. Un análisis crítico desde la Teoría de la Acción Comunicativa. Editorial Magisterio. Colección Mesa Redonda. No. 51. Santafé de Bogotá, D. C., 1997. p. 37. 5 BAKER, Judy L., [email protected] -Evaluating the impact of development projects on poverty: a handbook for practitioners- Washington. Mayo de 2000. p.1.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 8 de 40

8

Su objetivo es proveer información y ayudar a mejorar la eficacia de dichos programas o políticas. Las evaluaciones de impacto son herramientas que deben utilizar los encargados de tomar decisiones en la formulación de políticas, y que hacen posible que los ciudadanos puedan exigir cuentas sobre los resultados de los programas que hacen efectivas las políticas públicas.6 1.3. EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL

La evaluación de impacto en el contexto de la formación profesional integral, puede definirse como el proceso mediante el cual se mide y valora los efectos7 de los programas de formación en la satisfacción de las necesidades y requerimientos de los trabajadores y de las empresas. En el ámbito individual del egresado, se orientan a determinar también, las modificaciones sociales, económicas y laborales que pudiesen haber resultado de la formación recibida, o pudiesen atribuirse a su participación en el proceso formativo.8

En este sentido, los estudios de evaluación de impacto también permiten valorar, a nivel de los egresados, la calidad de los servicios de la formación que el SENA imparte en el país.

La evaluación de impacto tiene como propósito intrínseco medir los efectos de la formación sobre la población beneficiaria de la misma: trabajadores egresados y empresarios-empleadores, es decir, los principales clientes de la formación profesional. Estos efectos, cabe señalar, sólo comienzan a tener expresión o vigencia un tiempo después de finalizadas las acciones formativas, generalmente dos (2) años luego de haber finalizado el programa.

1.4. ¿PARA QUÉ SE EVALÚA EL IMPACTO DE LA FORMACIÓN PROFESIONAL?

La información generada por la evaluación de impacto de la formación ayuda a tomar decisiones sobre la necesidad de ampliar, modificar o eliminar ciertos programas de formación, y es posible utilizarla para asignarle prioridad a algunos de éstos. Además, las evaluaciones de impacto contribuyen a mejorar la eficacia de aquellos al abordar las siguientes preguntas: 6 REPÚBLICA DE COLOMBIA. DEPARTAMENTO NACIONAL DE PLANEACIÓN. CONSEJO DE POLÍTICA ECONÓMICA Y SOCIAL – Conpes- Evaluación de Impacto de Programas Sociales. Bogotá, D. C. 31 de julio de 2002. p.5. 7 Habitualmente la eficacia y pertinencia como efectos esperados. 8 http://www.cinterfor.org.uy/public/spanish/region/ampro/cinterfor/newsroom/turin/eval.htm (Oct. 17/2003)

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 9 de 40

9

¿Logra la formación impartida en los egresados las metas de impacto propuestas?

¿Son los cambios producidos un resultado directo de la formación impartida, o son resultado de otros factores que ocurrieron simultáneamente?

¿Cambia el impacto de la formación impartida dependiendo del grupo al que se está tratando de beneficiar (hombres, mujeres, pueblos indígenas, grupos de desplazados, etc.), o de la región, o a través del tiempo (comparación de series históricas de indicadores)?

¿Tuvieron los programas de formación impartidos efectos inesperados, ya sean positivos o negativos?

1.5. ¿CÓMO EVALUAR EL IMPACTO DE LA FORMACIÓN PROFESIONAL?

La evaluación de impacto de los programas de formación gira en torno a una pregunta fundamental, ¿qué hubiera sucedido en los beneficiarios si la formación no se hubiera realizado en ellos? Aunque esta situación no se puede observar, se puede hacer una aproximación mediante la construcción de un escenario contrafáctico adecuado.

Un escenario contrafáctico es una situación hipotética9 en la que se trata de mostrar las condiciones de los trabajadores en ausencia de la formación, es decir, muestra el estado que presentarían los egresados de los programas de formación del SENA, si ellos no hubiesen recibido tal formación. ¿Cómo construir o visualizar este escenario contrafáctico?, ello depende de varios factores, incluyendo la cobertura del programa.

En programas de formación de cobertura parcial, como es el caso de los programas de formación profesional que imparte el SENA, el escenario contrafáctico se logra comparando a los egresados de los programas de formación (el grupo de tratamiento) con un grupo de control o de comparación. El grupo de control o de comparación está compuesto de personas con las mismas características que los beneficiarios (egresados), pero que no participaron en la formación impartida que se está evaluando.

El grupo de no-participantes se llama grupo de control cuando sus miembros son elegidos al azar; si no es así, se llama grupo de comparación. Para el caso del SENA se establece un grupo de comparación compuesto por los llamados trabajadores homólogos, que son trabajadores que desempeñan labores similares a las de los egresados pero que no fueron beneficiarios de la formación que el egresado sí tuvo en el SENA.

9 Es decir una situación supuesta o ficticia que sirve para hacer una contrastación virtual (experimento comparativo virtual).

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 10 de 40

10

1.6. DISEÑOS METODOLÓGICOS PARA LA EVALUACIÓN DE IMPACTO La elección del método de estudio en la evaluación de impacto se relaciona con identificación del grupo de control o de comparación, la cual determina el tipo de diseño de la evaluación, que para el caso del SENA puede ser clasificado en algunas de las siguientes categorías: experimental, cuasi-experimental y cualitativo. Los diseños experimentales se fundamentan en la selección al azar de los sujetos de la evaluación. “Al distribuir aleatoriamente la intervención entre los beneficiarios calificados, el proceso de asignación mismo crea grupos de tratamiento y control comparables que son estadísticamente equivalentes entre sí, a condición de que las muestras sean de tamaño adecuado”.10 Los resultados que se obtienen poseen alto grado de verosimilitud, pues los grupos experimental y de control al ser obtenidos de manera aleatoria evitan las dificultades de sesgo que existen cuando su conformación no se hace al azar, por lo tanto los resultados tipifican con mayor precisión los atributos que se están midiendo en las poblaciones. La ventaja de este diseño es la claridad en la interpretación de los resultados del estudio, ya que la influencia del programa sobre el resultado que se evalúa se puede comparar mediante la diferencia de medias de las muestras entre grupo experimental (de tratamiento o beneficiarios del programa de formación profesional) y grupo control. A pesar de lo anterior estos diseños presentan otro tipo de dificultades, tales como la negación de los beneficios del programa de formación a algunos de los que lo necesitan, lo cual sería discriminatorio en la aplicación de programas de políticas públicas, los sujetos de grupo control podrían cambiar condiciones o características que los identifican, lo cual invalidaría o desvirtuaría los resultados y podrían ser estudios muy costosos y prolongados, entre otros. Los diseños cuasi-experimentales se realizan cuando no es posible configurar los grupos experimental y de control de manera aleatoria. Estos diseños poseen grupos de comparación “que se asemejan al grupo de tratamiento, al menos en las características observadas, usando metodologías econométricas que incluyen métodos de pareo, métodos de doble diferencia, métodos de variables instrumentales y comparaciones reflexivas.”11 Los métodos de pareo o controles construidos son aquellos en los cuales se pretende obtener una comparación óptima que corresponda al grupo de tratamiento de un estudio o encuesta semejante pero más amplio en tamaño. La clase de correspondencia al grupo de tratamiento que se usa más frecuentemente es la llamada correspondencia de

10 BAKER, Judy L., [email protected] -Evaluating the impact of development projects on poverty: a handbook for practitioners- Washington. Mayo de 2000. p.2. 11 Ibid, p.3.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 11 de 40

11

puntuación de la propensión, en la que el grupo de comparación se contrasta con el grupo de tratamiento a partir de un conjunto de atributos observados en ambos estudios o utilizando la “puntuación de la propensión”, que es la probabilidad estadística proyectada de la participación de la población en el programa dados los atributos observados. Cuando más precisa es la puntuación de la propensión, mayor será la correspondencia entre el grupo de tratamiento con el grupo de comparación. Por ello se concluye que un buen grupo de comparación proviene del mismo ambiente económico-social y se le ha administrado el mismo cuestionario o encuesta por parte de recolectores de la información, similarmente entrenados, que el grupo de tratamiento. Los métodos de doble diferencia o diferencia de las diferencias como las llama Baker (2000), son aquellos en los que se compara un grupo de tratamiento con un grupo de control antes del programa (primera diferencia) y luego de ejecutarse el programa (segunda diferencia). Los métodos de variables instrumentales o control estadístico son aquellos en los que se utiliza una o más variables que intervienen en la participación de los miembros de la población en el programa, pero no en los efectos del programa una vez los sujetos han participado en él. Esto permite identificar la variación de origen externo en los efectos que se pueden atribuir al programa, identificando que su aparición no es aleatoria sino intencional. Las variables instrumentales se utilizan en primer lugar para predecir la participación de la población en el programa y en segundo término se usa para observar cómo varían los indicadores de efecto con respecto a los valores proyectados. Las comparaciones reflexivas son aquellas en las que se efectúa una encuesta de referencia de los participantes en el programa antes del inicio de éste, posteriormente se administra una encuesta de seguimiento. La primera produce la información del grupo de comparación y el efecto se verifica mediante la variación de los valores de los indicadores de resultado antes y después del programa, en el mismo grupo de personas, pero ya considerado como grupo de tratamiento luego del programa. En la mayoría de los casos en que se usan estos métodos, los grupos de tratamiento (de los beneficiarios de los programas de formación) y de control se seleccionan luego de haber impartido la formación usando métodos no aleatorios. También sucede que se selecciona el grupo de comparación antes de la ejecución del programa de formación en el grupo de tratamiento. Para el caso del SENA, como ya se anotó, el grupo de control lo configuran los trabajadores homólogos de los trabajadores egresados, en las mismas empresas donde trabajan los segundos, o en empresas homólogas a las que pertenecen los egresados, cuando las circunstancias lo requieran. La ventaja de estos estudios es que se basan en fuentes de datos existentes, y por lo tanto, son más rápidas y menos costosas.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 12 de 40

12

Las evaluaciones de impacto también utilizan diseños cualitativos, los que buscan determinar el efecto de un programa de formación bajo un parámetro metodológico distinto de los contrafácticos. En este tipo de diseños lo que se trata de hacer es comprender los procesos, comportamientos y condiciones como las perciben los individuos o grupos estudiados12. Los métodos cualitativos, en especial la observación de los participantes beneficiarios del programa de formación, suministran información sobre cómo su vida laboral, su economía de hogar, su capacidad de trabajo, entre otros aspectos, se han visto afectados por la formación recibida. Como se puede observar, la integración entre los diseños cuasi-experimentales y los cualitativos para el caso de la Formación Profesional resulta conveniente y útil, pues se pueden establecer controles de coherencia con la ayuda de procedimientos de triangulación13 que permiten efectuar indagaciones independientes de las variables claves que complementan la información cuantitativa con la cualitativa; también se pueden obtener distintas perspectivas, por ejemplo aunque los evaluadores podrían considerar el ingreso como indicador clave de bienestar de los trabajadores egresados del SENA, las variables cualitativas del mismo estudio podrían mostrar que dichos trabajadores estarían mas preocupados por su inestabilidad laboral; ofrece la oportunidad de retroalimentar la interpretación de los resultados y facilita verificar la validez de valores atípicos. 1.7. ASPECTOS A MEDIR Y VALORAR EN LA EVALUACIÓN DE IMPACTO Para caso del SENA se pueden considerar dos actores en los cuales existen atributos que se manifiestan como aspectos a medir y valorar. Dichos actores son: Los egresados, en los cuales hay un componente de bienestar del cual hacen parte el empleo, el ingreso14 y las competencias o desempeños laborales (básicas, técnicas y psicosociales). El SENA, en el cual está la definición, ejecución y evaluación de políticas públicas que se traducen en los programas de formación profesional de los trabajadores teniendo en cuenta las condiciones sociales y económicas del país. Lo anterior implica cobertura, calidad, pertinencia en sentido amplio15 y pertinencia en sentido estricto16 de los

12 Valadez y Bamberger, 1994; citados por Baker en: BAKER, Judy L., [email protected] -Evaluating the impact of development projects on poverty: a handbook for practitioners- Washington. Mayo de 2000. p.8. 13 Se refiere a técnicas de confirmación de resultados de datos obtenidos de un mismo objeto de investigación por tres vías distintas de indagación; generalmente se aplica en investigaciones cualitativas y cuanti-cualitativas. 14 El cual de alguna manera evidencia la rentabilidad de la formación para el egresado, pues compara los ingresos de los que recibieron formación con los de aquellos que no la recibieron, en muestras homólogas. 15 Se refiere a la congruencia entre los programas de formación profesional existente, en los que se gradúan los egresados, con respecto a las necesidades que presenta el mercado laboral en el sector productivo. Dicha congruencia

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 13 de 40

13

programas de formación ejecutados a través del SENA en cumplimiento de las políticas públicas.

contribuye a hacer menor el desempleo, entendido éste como el porcentaje de egresados que contestaron NO estar trabajando (en la producción de bienes y servicios) en empresas o de manera independiente y que la mayor parte del tiempo, en el momento de la entrevista, han estado haciendo diligencias de búsqueda de empleo; y también contribuye a disminuir el desperdicio laboral neto, entendido éste como el desaprovechamiento del capital humano incorporado en los egresados a través de la Formación Profesional recibida y, por lo tanto, retardatario de su progreso personal, el cual se expresa como el porcentaje de egresados que respondieron estar en OTRAS actividades distintas a estar trabajando o buscando empleo. 16 Se refiere a la congruencia entre conocimientos, habilidades y destrezas expresados en desempeños o competencias que poseen los egresados de la formación, con los requerimientos técnicos generales y específicos que presentan los procesos de producción y/o puestos de trabajo en las empresas donde laboran éstos.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 14 de 40

14

2. PROCESO Y PROCEDIMIENTOS PARA LA EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL

DIAGRAMA DE FLUJO DEL PROCESO DE EVALUACIÓN DEIMPACTO DE LA FORMACIÓN PROFESIONAL

Diseñar indicadoresde evaluación de

impacto de laFormación Profesional

Ley Orgánica del SENAPlan Indicativo

Institucional

Batería de Indicadoresde Impacto de la F. P.

Diseñar instrumentosde recolección de

datos

Datos de laformaciónprofesional

almacenadosen documentos no

electrónicos

Formatos de formulariosde encuesta de estudiosde impacto similares o

anteriores

Formularios derecolección de datos

para Egresados,Trabajadores homólogos

y Jefes inmediatos

Seleccionar diseño deinvestigación

evaluativa de impactoa utilizar

Estudios einvestigaciones previas

sobre formaciónprofesional

Evaluaciones de impactode la formación

profesional anteriores

Literatura internacionalsobre diseños

metodológicos deinvestigación evaluativa

de impacto

Inicio

1

2

3

4

Diseño de investigaciónevaluativa de impacto

seleccionado

Datos de laformaciónprofesional

almacenados enunidades de disco

Datos contenidosen bases de datos

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 15 de 40

15

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 16 de 40

16

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 17 de 40

17

Al iniciar la descripción de esta evaluación, es necesario tener en cuenta que muchos de los datos para la misma surgen de los sistemas de información en uso y de fuentes de información secundaria. Existen otros datos que suministran las personas, en este caso los egresados, los trabajadores homólogos y los jefes inmediatos de éstos, los cuales deben ser recolectados de manera mecánica. Por ello la mayor parte de las actividades descritas corresponden a una ejecución mecánica del estudio de impacto. 2.1. SELECCIONAR DISEÑO DE INVESTIGACIÓN EVALUATIVA DE IMPACTO A UTILIZAR Para realizar dicha selección proceda de la siguiente manera:

Revise minuciosamente los documentos de Plan Nacional de Desarrollo, política de Gobierno, la Ley Orgánica del SENA en lo correspondiente a la Misión, Objetivos y Funciones y el Plan Indicativo Institucional (Plan Estratégico) en los Objetivos Estratégicos para determinar con precisión los resultados o productos de la Formación Profesional Integral que se esperan obtener y que ameritan ser observados en el estudio de impacto.

Realice una indagación en la literatura internacional sobre diseños metodológicos

de investigación evaluativa de impacto, para extraer un abanico de opciones metodológicas (diseños experimentales, cuasi-experimentales y no experimentales –cualitativos-).

Revise los documentos sobre estudios realizados acerca de la Formación

Profesional Integral y sobre evaluaciones de impacto realizadas por el SENA o por otras entidades en este mismo campo, para determinar los aspectos claves de la formación profesional merecedores del estudio de impacto.

Seleccione un diseño metodológico o una combinación de estos, de acuerdo con

los productos de la Formación Profesional Integral determinados en la primera tarea del presente numeral y con los aspectos claves de dicha formación precisados en la tarea inmediatamente anterior.

Redacte un documento en que se describa el tipo de diseño metodológico

seleccionado.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 18 de 40

18

2.2. DISEÑAR INDICADORES DE EVALUACION DE IMPACTO17 De la Ley que fundamenta al SENA o del Plan Indicativo Institucional se tomarán los objetivos específicos. De allí deberán derivarse los aspectos concretos del efecto que debe producir la Formación Profesional sobre los egresados de los programas de formación. Para ello proceda así:

Relacione siempre los indicadores a construir con datos que sean posibles de obtener y verificar mediante mediciones u observaciones.

Redacte como objetivos específicos de impacto, los efectos a largo plazo que se

espera ejerza la formación profesional en la población de egresados. (Por ejemplo: Incrementar el ingreso laboral en 20% en los egresados con respecto a los trabajadores bachilleres que no han recibido formación profesional).

Establezca la correspondencia entre cada objetivo de impacto con, mínimo, un

indicador al que se le deberá asignar un nombre que corresponda con sus atributos, ya sea cuantitativamente o cualitativamente.

Defina cada indicador de impacto mediante la descripción de la relación numérica

(relación matemática) o de la escala de atributos cualitativos que mide o valora el nivel de logro del objetivo de impacto.18

Describa la operación (algoritmo) matemática del cálculo de cada indicador de

impacto. En su defecto describa cómo se realiza la observación y la valoración cualitativa del mismo, cuando éste sea cualitativo.

Describa las decisiones que pueden ayudar a tomar los resultados de cada

indicador de impacto.

Revise cada año la batería de indicadores de impacto diseñados y efectúe los cambios que las necesidades de la evaluación requieran, siguiendo el procedimiento anterior.

17 Ver ejemplo en Anexos Nos. 1. 2. y 3. 18 Siempre habrá unos indicadores de impacto permanentes para la Formación Profesional relacionados con empleo, ingreso, desempeño de competencias laborales, cobertura y pertinencia de la formación.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 19 de 40

19

2.3. DISEÑAR INSTRUMENTOS DE RECOLECCION DE DATOS19

Tome cada uno de los objetivos de impacto con sus indicadores diseñados en la actividad anterior.

Verifique que en el sistema de información en uso se contengan los datos del

indicador de impacto a medir y valorar, en unidades de disco o en documentos no electrónicos. Si los datos están contenidos en sistemas de información o en unidades de disco, pase a la actividad “2.8. PROCESAR ESTADISTICAMENTE LOS DATOS DIGITADOS”. Si los datos no están contenidos allí, continúe con la siguiente tarea.20

Diseñe tres formularios de recolección de datos así: El formulario para aplicar a

los egresados, será el número uno (No. 1); el formulario para aplicar a los trabajadores homólogos, será el número dos (No. 2) y; el formulario para aplicar a los jefes inmediatos, será el número tres (No.3).

Asigne en los tres formularios en cada zona de respuesta un código

(preferiblemente alfabético: A, B, C, D, etc., siguiendo la secuencia alfabética que poseen las columnas de las hojas electrónicas Excel), el cual debe ser secuencial, de tal forma que el primer código del formulario número dos, por ejemplo AG, sea el que le sigue al último código del formulario número uno, es decir AF. Así sucesivamente hasta llegar a la última zona de respuesta del formulario número tres. Lo anterior con el fin de que los datos obtenidos se puedan trabajar como una gran sábana de datos en hojas electrónicas.

Establezca en cada uno de los tres formularios una serie de preguntas de

identificación y de Información Básica. En identificación aspectos tales como Regional, Centro, Programa de Formación recibido, nombre del egresado, dirección de residencia y número telefónico. En información básica aspectos tales como edad, sexo, nivel educativo, tiempo que demoró para conseguir o generar empleo, datos sobre patrocinio, entre otros.

Construya, por cada uno de los indicadores de impacto, una o varias preguntas

en las que las respuestas permitan cuantificar o cualificar el indicador correspondiente, o en otros casos, recoger datos que, con los obtenidos en otra pregunta o con datos contenidos en el sistema de información en uso, permita realizar el cálculo posterior del indicador. Dichas preguntas estarán consignadas en el formulario que corresponda a la fuente primaria de datos (egresados,

19 En la sección de Anexos se insertan ejemplos de tales instrumentos (formularios) de recolección de datos, los cuales deberán tomarse exclusivamente como prototipos (ver Anexos Nos. 4, 5, y 6). 20 Generalmente se encontrarán las tres formas de contención de datos.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 20 de 40

20

trabajadores homólogos y Jefes inmediatos) que sea más pertinente para suministrarlos.

Diseñe al final de cada uno de los formularios un espacio para escribir el nombre

y la cédula del encuestador, así como un espacio para las observaciones. 2.4. DISEÑAR METODOLOGIA DE RECOLECCION DE DATOS Las instrucciones de ejecución de la evaluación de impacto se diseñarán a través del siguiente procedimiento:

Determine la unidad estadística, es decir, la unidad de las fuentes primarias de datos, la que para los efectos de esta evaluación de impacto es el sujeto de la investigación. Generalmente se tomará como sujetos de investigación a los egresados, trabajadores homólogos y jefes inmediatos de éstos.

Determine el universo estadístico, el cual está conformado por el número total

de egresados en el año que esta siendo objeto de evaluación de impacto. Debe tenerse en cuenta que se considerarán como egresados a quienes han concluido las etapas lectiva y productiva de la formación, en cada uno de los programas. El universo estadístico de los jefes inmediatos está determinado por el número de egresados encuestados que se encuentre trabajando en forma dependiente. El universo estadístico de los trabajadores homólogos se define por el número de trabajadores que laboran en los mismos procesos que los egresados y que no han recibido formación profesional en el SENA en el campo que la recibieron los egresados.

Diseñe el cálculo de la muestra estadística con cada uno de los sujetos de la

investigación, si se requiere21. Se calculará la muestra estadística, de manera estratificada, utilizando la “Tabla para determinar Tamaño de Muestra para una Población dada” extraída de Krijcle y Morgan (1970).22

Diseñe el procedimiento de recolección de datos, teniendo en cuenta la

elaboración de listas de los egresados, esto para realizar su localización, previendo la forma de contacto, ya sea, vía formulario de encuesta en página web, vía correo electrónico, vía telefónica, visita domiciliaria, u otras formas.

21 Para este tipo de estudio el cálculo de las muestras depende del tamaño de los grupos de egresados por programa y vigencia. Lo anterior teniendo en cuenta que son poblaciones finitas. 22 Dicha tabla está elaborada mediante cálculo de muestreo para poblaciones finitas y fue publicada por la División de Investigación de la Asociación Nacional de Educación de los Estados Unidos. Ver Anexo No. 7.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 21 de 40

21

Describa la manera como se administrarán los formularios de recolección de

datos, tanto en la consignación de las respuestas de los sujetos de investigación como en la numeración consecutiva de los formularios de tal forma que faciliten luego su agrupación para la digitación y procesamiento de las respuestas.

Determine que para el caso de los jefes inmediatos: se entrevista a un número

igual de jefes inmediatos al del número de egresados que se encuentren trabajando en forma dependiente. Cuando en una misma empresa se encuentre más de un egresado, se entrevista a los jefes inmediatos de cada uno de ellos. En las empresas donde de un mismo jefe dependan varios egresados, se harán tantas entrevistas al dicho jefe como egresados tenga bajo su mando.

Determine que en los casos en los que el egresado sea trabajador independiente,

no hay entrevista de jefe inmediato por inexistencia de éste. Se entrevistarán tantos trabajadores homólogos como egresados haya en una misma empresa, excepto en los casos en que el egresado sea trabajador independiente.

Defina la manera como se deberá hacer la crítica (examen riguroso) de la

información consignada en los formularios por el funcionario o el equipo coordinador de la evaluación. En dicha tarea se verificará que los formularios estén numerados consecutivamente tal como ya se indicó, también se revisará que estén consignados los códigos de Regional, Centro y Programa de formación, así como los códigos de la Tabla CIIU (Clasificación Industrial Internacional Uniforme) de actividades económicas en el formulario del jefe inmediato y por último se verificará la confiabilidad y la coherencia interna de las respuestas a lo largo de los formularios diligenciados.

Determine la manera como se deberán remitir a la División de Estudios,

Prospección y Evaluación de la Dirección General los paquetes de formularios de las encuestas diligenciados.

Ensamble un documento, que será el Instructivo Metodológico de la

Evaluación de Impacto la Formación23, con los documentos resultantes del diseño de los indicadores de evaluación de impacto y las instrucciones metodológicas de recolección de los datos, los formularios de encuesta diseñados y la tabla de cálculo de muestras de Krijcle y Morgan.

.

23 Ver ejemplo en Anexo No. 8.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 22 de 40

22

2.5. CAPACITAR METODOLOGICAMENTE A LOS RESPONSABLES OPERATIVOS DE LA EVALUACIÓN DE IMPACTO DE LA FORMACIÓN

Haga entrega formal del documento Instructivo Metodológico de la Evaluación de Impacto la Formación a los responsables de la ejecución operativa de la evaluación en las regionales, seccionales, y centros de formación.

Realice una videoconferencia a nivel nacional para presentar, explicar y resolver

interrogantes sobre los aspectos metodológicos de la evaluación a realizar.

Haga responsable a cada dependencia de Planeación regional o en su defecto a los Centros de Formación, de la capacitación metodológica de sus propios funcionarios y personal encuestador.

Atienda y asesore continuamente los interrogantes y consultas de las distintas

áreas responsables de la ejecución operativa de la evaluación de impacto. 2.6. RECOLECTAR LOS DATOS EN LOS INSTRUMENTOS (FORMULARIOS) Además de tener en cuenta lo prescrito en el Instructivo Metodológico de la Evaluación de Impacto, en el momento de la recolección de los datos, las áreas responsables de la ejecución operativa de dicha evaluación, deben realizar lo siguiente:

La División de Estudios, Prospección y Evaluación de la Dirección General coordinará y supervisará con todas las áreas de Planeación regional y éstas con los centros de formación, si se requiere, los tiempos y las acciones específicas que sean necesarias para entrevistar a los sujetos de la investigación ya definidos.

Los responsables regionales de la recolección de la información deberán estar al

tanto de las salidas de campo, las visitas domiciliarias y los sitios de trabajo a visitar, verificar la calidad de las entrevistas, ejecutar las correcciones que se necesiten en la recolección de la información, suministrar aclaraciones o respuestas a las dudas de los encuestadores o de los coordinadores que manejen grupos de encuestadores.

La División de Estudios Prospección y Evaluación de la Dirección General

suministrará atenta y oportunamente toda la información, instrucción o aclaración

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 23 de 40

23

que le sea requerida, así como también hará seguimiento a distancia a las acciones de recolección de información que se estén realizando en las regionales.

Las dependencias de Planeación de las regionales luego de recogida la

información, enviarán los paquetes de los formularios diligenciados de acuerdo con el Instructivo Metodológico de la Evaluación de Impacto a la División de Estudios, Prospección y Evaluación de la Dirección General.

Previsto lo anterior, también realice lo siguiente:

Coordine la recolección de los datos verificando el diligenciamiento de formularios de encuesta en página web, por correo electrónico, vía telefónica, por visita domiciliaria y por otras formas posibles.

Verifique la calidad de las entrevistas.

Ejecute las correcciones que se necesiten en la recolección de los datos.

La División de Estudios, Prospección y Evaluación de la Dirección General debe suministrar en todos los casos, atenta y oportunamente, toda la información, instrucción o aclaración que le sea requerida sobre los distintos aspectos referentes a la Evaluación de Impacto. 2.7. DIGITAR LOS DATOS RECOLECTADOS

Reciba los paquetes de encuestas diligenciados debidamente por cada Regional.24

Revise la numeración consecutiva de los formularios y los datos de la

identificación, para que los paquetes estén organizados por Regional, Centro y Programa de Formación.

Diligencie en las columnas codificadas del archivo de hojas electrónicas los datos

contenidos en cada formulario, de acuerdo con el código establecido en las zonas de respuesta donde se consignaron los datos suministrados por los sujetos de la investigación.25

24 Esto lo hará la División de Estudios, Prospección y Evaluación de la Dirección General. 25 Este trabajo es muy extenso y requiere experticia de digitación, generalmente se puede contratar a una empresa especialista en este tipo de labor.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 24 de 40

24

Establezca un mecanismo de control de calidad sobre la digitación de los datos. Use una tabla de números aleatorios para efectuar revisiones de las sábanas de las hojas electrónicas diligenciadas contra los datos consignados en los formularios. El índice de error de digitación debe ser menor o igual al 3%, en una muestra de 100 datos revisados.

2.8. PROCESAR ESTADISTICAMENTE LOS DATOS DIGITADOS La los datos digitados en el orden prescrito se procesarán de la siguiente manera:

Elabore con la operación matemática del cálculo de cada indicador de impacto, o con la valoración cualitativa de los indicadores que lo requieran, una fórmula de procesamiento en un programa estadístico automatizado.

Introduzca los datos digitados al programa estadístico para su procesamiento.

Active el procesamiento de los datos en el programa estadístico.

Genere la información obtenida por el procesamiento de los datos en función de

cada uno de los indicadores de impacto. 2.9. ANALIZAR LA INFORMACION PROCESADA

Tome la información procesada en función de los indicadores de impacto y organícela para observar los resultados obtenidos acerca del efecto que ha generado la formación profesional en los egresados, teniendo en cuenta cada objetivo de impacto asociado.

Efectúe el análisis, tanto de la información obtenida mediante los formularios de

recolección de datos como de la obtenida por el sistema de información en uso, realícelo indicador por indicador y luego de manera combinada, de tal manera que los resultados de un indicador se puedan conjugar o contrastar con otro u otros de similar naturaleza o de carácter complementario, según los objetivos de impacto con los cuales estén asociados.

Interprete con el análisis de los resultados realizado, el efecto de la formación

profesional en los egresados. Dicha interpretación posee dos componentes: el de explicación (erklären) y el de comprensión (verstehen)26. La explicación se refiere

26 El significado de erklären y verstehen parte de la discusión alemana, desde la Escuela Frankfurt, sobre la naturaleza del conocimiento científico en las ciencias sociales. Dicha disputa opone y reconcilia la medición cuantitativa de las

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 25 de 40

25

a la determinación causal en la relación de la variable formación profesional con las condiciones de vida o fenómenos asociados al bienestar de vida de los egresados. En ella se asume que la formación profesional ejerce influencia en las condiciones de vida de los egresados y lo que principalmente se hace es señalar la medida del efecto generado. La comprensión se refiere al significado y al sentido de la información resultante de la evaluación. El significado es lo que representan los resultados de la evaluación de impacto de la formación en la aplicación de políticas públicas en el contexto de la nación; allí posee un valor político tanto a nivel de gobierno como a nivel de Estado. El sentido es el rumbo, en términos de política de desarrollo, que adoptan los programas de formación profesional en relación con el modelo de desarrollo económico y sus consecuencias para la población.

2.10. ELABORAR INFORMES

Redacte varios documentos de acuerdo con el ámbito de divulgación de la evaluación27, en los cuales se describan los resultados, se presenten los análisis y las interpretaciones, también señale como establecer acciones de mejoramiento a los programas de formación, indique qué programas deben eliminarse y qué otros estimularse, establezca la modificación de políticas, programas, procesos y procedimientos, administración de recursos y de presupuesto, etc.

investigaciones empíricas de las ciencias de la naturaleza con las observaciones y mediciones cualitativas de las ciencias humanas y sociales. 27 Se pueden elaborar varios informes así: uno ejecutivo para las autoridades institucionales y otras dependencias del Estado, otro para regionales y centros de formación y otro para los especialistas en la investigación evaluativa de impacto.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 26 de 40

26

REFERENCIAS DOCUMENTALES Y BIBLIOGRAFICAS CONSULTADAS

1. ABDALA, Ernesto. Evaluación de Impacto: Un reto ineludible para los programas

de capacitación juvenil. Boletín Cinterfor. Montevideo, setiembre-diciembre de 2000.

2. BAKER, Judy L., [email protected] -Evaluating the impact of development

projects on poverty: a handbook for practitioners- Washington. Mayo de 2000.

3. CAMPBELL, Donald; STANLEY, Julian. Diseños Experimentales y Cuasi-experimentales en la investigación social. Amorrortu editores. Buenos Aires, 1973.

4. FRANCO, Nohora Cecilia; OCHOA, Luis Francisco. La Racionalidad de la Acción

en la Evaluación. Un análisis crítico desde la Teoría de la Acción Comunicativa. Editorial Magisterio. Bogotá, 1997.

5. JACINTO, Claudia; GALLART, María Antonia; y Otras. Formación para el Trabajo

de Jóvenes. Formulación y Evaluación de Proyectos, Orientaciones didáctico-pedagógicas. UNICEF – Argentina. Red Latinoamericana de Educación y Trabajo. Nodo Argentino. Buenos Aires, noviembre de 1997.

6. OCHOA, Luis Francisco. Evaluación de Impacto de la formación recibida en los

egresados de la Especialización en Pedagogía y Docencia Universitaria de la Universidad de San Buenaventura, Sede Bogotá. Universidad de San Buenaventura. Bogotá. 2003.

7. OCHOA, Luis Francisco. Ejemplos de diseño de indicadores de impacto.

Documento de trabajo, Bogotá. 1996.

8. REPUBLICA DE COLOMBIA. DEPARTAMENTO NACIONAL DE PLANEACIÓN. Consejo Nacional de Política Económica y Social –CONPES- 3188. Evaluación de Impacto de Programas Sociales. Bogotá, D.C. julio 31 de 2002.

9. REPUBLICA DE COLOMBIA. MINISTERIO DE SALUD PUBLICA. Evaluación de

Impacto del Programa Sistemas Municipales de Salud. Carlos Torres, Ph. D. Evaluación. Bogotá. 1998.

10. REPÚBLICA DE COLOMBIA. SERVICIO NACIONAL DE APRENDIZAJE –SENA-

DIRECCION GENERAL. Evaluación de Impacto de las acciones de formación del SENA 1994. Luis Francisco Ochoa Rojas, Magíster en Educación. Bogotá, Agosto de 1996.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 27 de 40

27

11. SERVICO NACIONAL DE APRENDIZAGEM INDUSTRIAL –SENAI-. DEPARTAMENTO NACIONAL. Indicadores de desempenho para a Educaçao Profissional. Rio de Janeiro (Brasil), 1995.

12. THE WORLD BANK. Research News. Volume 4, Number 1. Washington. Spring

1983.

13. UNIVERSIDAD DE LOS ANDES. Facultad de Economía-CEDE. Diseño de un Sistema de Evaluación de Impacto de los servicios de apoyo a las microempresas en Colombia. Santafé de Bogotá, Marzo 1 de 1996.

14. UNIVERSIDAD DE LOS ANDES –CIDER- Análisis de Impacto Programa de

Empleo Urbano. Componente de Capacitación Laboral a Jóvenes. Red de Solidaridad – SENA. Ligia Consuelo Cortés Rengifo. Santafé de Bogotá, julio de 1998.

15. WEISS, Carol H. Investigación Evaluativa. Editorial Trillas. México, 1978.

16. http://www.ilo.org/public/spanish/region/ampro/cinterfor/newsroom/turin/eval.htm

(Oct. 17/2003).

17. http://www.cep.edu.uy/InformacionInstitucional/ProyectosCEP/MecaepInicial/ComponenteEducacionInicialEstudiolongitudinal.htm (Oct. 22/2003).

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 28 de 40

28

ANEXOS

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 29 de 40

29

Anexo No. 1 EJEMPLOS DE FORMULACION DE INDICADORES DE IMPACTO

OBJETIVO META NOMBRE DEFINICION CALCULO DEL FRECUENCIA DE RESPONSABLES CONTRIBUCION

1996 DEL INDICADOR DEL INDICADOR INDICADOR MEDICION DEL INDICADOR A

TOMA DECISIONES

Impartir Formación Pro- El 90% de los beneficia- Nivel educativo del jefe Se refiere al número de Sumatoria del No. de Anual Cada uno de los 107 Verifica en qué grupos so-

fesional a los grupos so- rios provendrán de hoga- de hogar años de estudio recibido años cursados dividido Jefes de Centro del ciales se distribuyen los

ciales de menores recur- res de bajos niveles edu- en los distintos niveles de por el No. de encuestas SENA en el país. beneficios de la Forma-

sos. cativos, del sector de los educación (primaria, se- respondidas. ción Profesional de los

trabajadores, con ingre- cundaria y superior) por el trabajadores.

sos familiares no mayo- padre, la madre o por

res a cuatro salarios mí- quien ayudó en la crianza

mos. del egresado.

Actividad ocupacional Se refiere a la actividad Porcentajes de frecuen- Anual Idem Idem

del jefe de hogar productiva-ocupacional cia de categorías ocupa-

a la que se dedica (dedi- cionales (Empleado,

có) el padre, la madre o obrero, jornalero o peón,

quien ayudó en la crianza patrón o empleador,

del egresado. cuenta propia, trabajador

de su propia finca, emplea-

do doméstico, quehace-

res del hogar, rentista de

bienes propios y no sabe)

Nivel de ingresos familiares Se refiere a la cuantía de los Porcentajes de frecuencia Anual Idem Idem

ingresos promedio mensual por rangos de ingreso en una

recibidos por el hogar del escala cuya unidad es el sa-

que hace parte el egresado. lario mínimo ($142.125) hasta

más de diez, es decir, más

de $1.421.250.

Contribuir en el mejora- Los trabajadores egresados Rentabilidad de la formación Se refiere a la medición de Promedio de salarios deven- Anual Cada uno de los 107 Porcentajes mayores de 115

miento económico de los en promedio tendrán salarios cuál ha sido la contribución gados por egresados quienes Jefes de Centro del indican que ha habido renta-

trabajadores egresados. incrementados en un 15% en de los cursos del SENA en la los perciben en el momento de SENA en el país. bilidad de la formación.

comparación con los devenga- obtención de incrementos sa- la entrevista. Este resultado

dos por la población ocupa- lariales por parte de los egre- dividirlo por el ingreso pro-

da del nivel educativo de los sados. medio de los ocupados según

bachilleres. nivel educativo de compara-

ción (bachilleres) a precios de

1996, según la Encuesta Na-

cional de Hogares del DANE

y luego multiplicar todo lo

anterior por 100.

Rentabilidad de la formación Se refiere a la comparación Promedio de salarios deven- Anual Idem Porcentajes mayores de 100

con respecto a Homólogos entre los salarios de los gados por los egresados indican que ha habido renta-

RFH. egresados con los salarios de quienes los perciben en el mo- bilidad de la formación.

los trabajadores homólogos mento de la entrevista, se di-

que no han estudiado en el vide por el promedio de los

SENA. salarios devengados por los

trabajadores homólogos y

luego multiplicar por 100.

Rentabilidad de la formación Se refiere a la comparación Promedio de tiempo (en nú- Anual Idem A más bajos porcentajes

con respecto tiempo de for- entre el tiempo invertido en mero de meses) de la duración (siempre por debajo de 100)

mación versus experiencia. la formación por parte de los de los cursos, se divide por indica que en mayor medida

egresados con el tiempo de el promedio de tiempo (en nú- la formación recibida reem-

experiencia laboral de los mero de meses) de experien- plaza a la experiencia labo-

trabajadores homólogos que cia laboral de los trabajado- ral. Esto hace rentable la for-

que han aprendido su oficio res homólogos de formación mación por el ahorro de

empíricamente. empírica, luego multiplicar tiempo para acceder a mejo-

por 100. res salarios, esto si R.F.H.

Es mayor-igual que 100.

Contribuir en el incremen- La tasa de empleo de los egre- Tasa de empleo Se refiere al porcentaje de los Número de respuestas dadas Anual Cada uno de los 107 Indicativo del nivel de inser-

to de la tasa de empleo sados del SENA será del 90% egresados que están des- a sí estar trabajando (ocupa- Jefes de Centro del ción laboral de los egresa-

de los trabajadores empeñando una función labo- dos) en el momento de la SENA en el país. dos y de comparación in-

egresados a nivel nacio- ral y/o productiva de bienes y entrevista y no estar buscan- versa con la tasa de desem-

nal. servicios en empresas o de do empleo, dividido por la pleo nacional.

manera independiente y que diferencia entre el total de

no están buscando empleo. encuestados con los que con-

tinuaron estudios, luego mul-

tiplicar por 100.

Formar a los trabajado- El nivel de pertinencia de la Pertinencia de la formación Se refiere a la corresponden- Porcentaje de respuestas a los Anual Idem Indicativo de la pertinencia

res egresados con con- formación de los trabajado- cia entre los contenidos de la distintos niveles de la escala de los conocimientos ad-

tenidos técnicos y tecno- res egresados del SENA será formación dada a los trabaja- de pertinencia (Total, Alta, quiridos con respecto a las

lógicos que correspon- mínimo ALTA. dores egresados con las ta- Baja, Nula) con respecto a la tareas o funciones que des-

dan con los aplicados reas o funciones que éste des- aplicación en el trabajo de los empeña el egresado en su

dentro de los procesos empeña en su trabajo. Así co- conocimientos recibidos en el trabajo.

de trabajo de las empre- mo la exigencia de la empresa curso SENA (Permanentemen-

sas o del medio producti- del certificado SENA para in- te, varias veces, rara vez y nun-

vo. gresar a trabajar. ca, equivalentes con los niveles

de la escala señalada). De ma-

nera derivada el porcentaje de

respuestas a sí o a no le exi-

gieron el certificado del SENA

para su ingreso a la empresa

(excepto los trabajadores

independientes)

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 30 de 40

30

Anexo N.o. 2 DESARROLLO DE LOS INDICADORES DE LA EVALUACION DE IMPACTO

DEFINICION DEL INDICADOR CALCULO INTERPRETACION

NIVEL EDUCATIVO DEL JEFE DE HOGAR Se refiere al número de años de estudio recibido en los distintos niveles de educación (primaria, secundaria y/o superior) por el padre, la madre o por quien ayudó en la crianza del egresado.

Sumatoria de No. años cursados dividido por el No. de encuestas respondidas.

Indicativo del nivel educativo de las cabezas de familia de los egresados.

ACTIVIDAD OCUPACIONAL DEL JEFE DE HOGAR Se refiere a la actividad productiva-ocupacional a la que se dedica (dedicó) el padre, la madre o de quien ayudó en la crianza del egresado.

Porcentajes de frecuencia de categorías ocupacionales (Empleado, obrero, jornalero o peón, patrón o empleador, cuenta propia, trabajador de su propia finca, empleado doméstico, quehaceres del hogar, rentista de bienes propios y no sabe)

Indicativo de la actividad ocupacional de las cabezas de familia de los egresados.

NIVEL DE INGRESOS FAMILIARES Se refiere a la cuantía de los ingresos promedio mensual recibidos por el hogar del que hace parte el egresado.

Porcentajes de frecuencia por rangos de ingreso en una escala cuya unidad es el salario mínimo vigente. La escala de rangos va desde menos de un salario mínimo $172.005 hasta más de diez, es decir, más de $1.720.050.

Indicativo del nivel de ingresos promedio mensual percibidos por el hogar del que hace parte el egresado.

PROPIEDAD DE LA VIVENDA Se refiere al porcentaje de egresados cuyo hogar habita en vivenda propia.

Porcentaje de egresados que respondieron que el hogar del que hace parte, sí habita en vivenda propia.

Indicativo de propiedad de la vivienda donde habita el egresado.

EDAD DEL EGRESADO Se refiere al número de años de vida que tenía el egresado al comenzar la formación.

Su cálculo se hace por porcentajes de frecuencia en rangos de edad (15-19, 20-24, 25-29, 30 o más).

Indicativo de los rangos de edad en los que se distribuyen los egresados de la formación.

DESPERDICIO LABORAL NETO Se refiere al desaprovechamiento del capital humano incorporado en los egresados a través de la Formación Profesional recibida y, por lo tanto, retardatario de su progreso personal.

Su cuantificación se obtiene mediante las tasas de desempleo e inactividad. Entendido el desempleo como el porcentaje de egresados que contestaron NO estar trabajando (en la producción de bienes y servicios) en empresas o de manera independiente y que la mayor parte del tiempo, en el momento de la entrevista, han estado haciendo diligencias de búsqueda de empleo; y entendiendo inactividad como el porcentaje de egresados que respondieron estar en OTRAS actividades distintas a estar trabajando o buscando empleo.Sin embargo es necesario aclarar que aquellos que continuaron sus estudios logran su avance personal al promocionarse educacionalmente, por lo tanto no son considerados como desperdicio y se excluyen para el cálculo de este indicador. D.L.N.= Egresados inactivos-Estudiantes Total Egresados Encuestados x100

Indicativo del desaprovechamiento de la formación recibida en el SENA.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 31 de 40

31

RENTABILIDAD DE LA FORMACION Se refiere a la medición de cuál ha sido la contribución de los cursos del SENA en la obtención de incrementos salariales por parte de los egresados. Para ello: También se hace la comparación entre los salarios promedio devengados por los egresados y los salarios promedio devengados por los homólogos en las empresas. Aquí mismo se establece la proporción entre el tiempo promedio de Cursos largos de los Egresados con el tiempo promedio de experiencia laboral de los homólogos.

Promedio de salarios devengados por egresados quienes los perciben en el momento de la entrevista. Este resultado dividirlo por el ingreso promedio de los ocupados según nivel educativo (bachilleres) a precios de 1997, según la Encuesta Nacional de Hogares del DANE, luego multiplicar todo lo anterior por 100. R.F.= . Prom. Sal. Egre. Entrev. Ing. prom. según nivel educ. x 100 El promedio de salarios devengados por egresados quienes los perciben en el momento de la entrevista, se divide por el promedio de los salarios devengados por los homólogos y luego multiplicar por 100. R.F.H.= Prom.Sal.Egre. Prom.Sal.Hom. x 100 El promedio de tiempo (en número de meses) de la duración de los Cursos Largos, se divide por el promedio de tiempo (en número de meses) de experiencia laboral de los homólogos, luego multiplicar por 100. P.T.= Prom. meses Cursos Largos Egre. Prom. meses exp. lab. Homólogo X 100

Porcentajes mayores de 100 indican que ha habido rentabilidad de la formación. Porcentajes mayores de 100 indican que ha habido rentabilidad de la formación con respecto a homólogos. A más bajos porcentajes, (siempre por debajo de 100) indica que en mayor medida la formación recibida reemplaza a la experiencia laboral. Lo cual hace rentable la formación por el ahorro de tiempo para obtener mejores salarios. Lo anterior, si R.F.H. es cercana a 100.

SATISFACCIÓN POR LA FORMACION RECIBIDA Se refiere a la percepción del egresado del SENA sobre la utilidad de los conocimientos técnicos recibidos en el curso para su progreso laboral.

Porcentaje de respuestas dadas a la escala de frecuencia sobre su utilidad (Permanentemente, Varias Veces, Rara vez y Nunca).

Indicativo de satisfacción del egresado sobre la utilidad del curso para su progreso laboral.

TASA DE DESEMPLEO Se refiere al porcentaje de los egresados que no están desempeñando una función laboral y/o productiva de bienes y servicios en empresas o de manera independiente y que están buscando empleo.

Número de respuestas dadas a no estar trabajando (desocupados) y estar buscando empleo, dividido por la diferencia entre el total de encuestados menos los que continuaron estudios, luego multiplicar por 100. . Desocupados . T. E.= Encuestados - Estudiant. X 100

Indicativo de la inserción laboral de los egresados.

PERTINENCIA DE LA FORMACION Se refiere a la correspondencia entre los contenidos de la Formación Profesional recibida por el egresado con las tareas que desempeña en su trabajo. Así como la exigencia de la empresa del certificado SENA para ingresar a trabajar.

Porcentaje de respuestas a los distintos niveles de la escala de pertinencia (Total, Alta, Baja y Nula) con respecto a la aplicación en el trabajo de los conocimientos recibidos en el curso (Permanentemente, Varias veces, rara vez y Nunca, equivalentes con la escala señalada). De manera derivada el porcentaje de respuestas dadas a sí o a no le exigieron el certificado del SENA para su ingreso a la empresa (excepto trabajadores independientes).

Indicativo de la pertinencia de los conocimientos adquiridos con respecto a las tareas que desempeña el egresado en su trabajo.

CALIDAD LABORAL DEL EGRESADO Se refriere al nivel de excelencia del egresado en el desempeño de las tareas laborales.

Porcentaje de respuestas a los distintos niveles de la escala de calidad sobre el desempeño del trabajador (Excelente, Bueno, Deficiente y Malo).

Indicativo de la calidad del desempeño laboral del egresado.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 32 de 40

32

Anexo No. 3

CAMPO VARIABLES INDICADORES CALCULO INTERPRETACION CAMPO SOCIOECONOMICO DE LOS BENEFICIARIOS DE LA FORMACION PROFESIONAL INTEGRAL

Nivel Socioeconómico Nivel educativo del jefe de hogar

Nivel de ingreso familiar

mensual Estrato socioeconómico

(Respuestas por nivel educativo/Total de Egresados que contestaron)*100

(Respuestas por nivel de

salario/Total de egresados que contestaron)*100

(Respuestas por estrato/total de egresados que contestaron)*100

% de mayor tendencia muestran características de impacto sobre el origen socioeconómico.

Distribución porcentual de los egresados por nivel de ingresos familiares

Distribución porcentual de los egresados por estrato

INSERCION LABORAL Participación en el mercado

laboral Estabilidad en el mercado

laboral

Tasa de Ocupación Tasa de desempleo Indice de estabilidad laboral

(# de Egresados vinculados/Total de egresados que responden) * 100

Tasa de ocupación de los egresados – Tasa de ocupación a nivel nacional (Región)

(# de Egresados SENA en busca de empleo/Total de egresados que responden) * 100

X = # de meses laborados desde que egreso/Total de meses de egresado del SENA

% de participación de los egresados en el mercado laboral

Empleabilidad de los egresados

% de la inserción laboral de

los egresados Si las respuestas tienden a

uno hay > estabilidad laboral.

DESARROLLO ECONOMICO Ingresos económicos

Desperdicio laboral Promedio de Ingreso

mensual del egresado Rentabilidad salarial de la

formación profesional integral

(# de Egresados dedicados a otras actividades/Total egresados encuestados) *100

Ingreso promedio del egresado = Ingresos mensuales/Total de egresados encuestados

Ingresos promedio del

egresado – Ingreso promedio bachilleres (egresados trabajando) País y región

Ingresos promedio del

Desaprovechamiento de los conocimientos recibidos en el SENA

Nivel de ingresos mensuales promedio

Si el salario promedio de

los egresados es > que el de los bachilleres la formación profesional recibida en el SENA es rentable

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 33 de 40

33

Anexo No. 4 SENA-Dirección General EVALUACION DE IMPACTO

Dirección de Planeación Formulario para Egresados Formulario No. 1 ADiv. Est., Prosp. y Evaluación 1995

Esta información es confidencial y de uso exclusivo del SENA

I. IDENTIFICACION

Regional B Nombre del egresado:C. C. E

Centro CDirección Residencia: F

Curso DCiudad: GTeléfono: H

II. INFORMACION BASICA1.Edad: I 4.Cuánto tiempo se demoró en conseguir empleo

desde el momento en que terminó el curso SENA:2.Sexo: Hombre 1 (sin contar la etapa productiva)

Mujer 2 J Menos de un mes 1De uno a tres meses 2 U

3. Anote el número de años cursados en cada nivel Más de tres meses 3 educativo: 5. Tuvo patrocinio para este curso:

Si 1Nivel educativo Al ingresar Actualmente: No 2 V

al SENAPrimaria K P 6. El primer cargo que tuvo lo desempeñó en la Secundaria L Q empresa patrocinadora:Técnico M R Si 1Tecnólogo N S No 2 WUniversitaria O T No ha trabajado 3

III. ORIGEN SOCIECONOMICO DEL EGRESADO7. Indique el número de años cursados en cada nivel 9. Indique dentro de la siguiente escala el promedio educativo del jefe de su hogar o de la persona que lo de ingresos mensual que percibe en total el hogarayudó a criar. del cual hace usted parte.

Nivel educativo Años Menos de $ 172.005 1Primaria X Entre $ 172.005 y $ 344.010 2Secundaria Y Entre $ 344.011 y $ 516.015 3Universitaria Z Entre $ 516.016 y $ 688.020 4No sabe AA Entre $ 688.021 y $ 860.025 5

Entre $ 860.026 y $1.032.030 6 AC8. El jefe de su hogar (padre o madre) o la persona que Entre $ 1.032.031 y $1.204.035 7

lo ayudó a criar fué o es principalmente: Entre $ 1.204.036 y $ 1.376.040 8Entre $ 1.376.041 y 1.548.045 9

Empleado 1 Entre $ 1.548.046 y $1.720.050 10Obrero 2 Más de $ 1.720.050 11Jornalero o peón 3Patrón o empleador 4 10. ¿El hogar del cual usted hace parte habita en Jefe de su propio negocio (cuenta propia) 5 vivienda propia?Trabajador de su propia finca 6 ABEmpleado doméstico 7 Sí 1Quehaceres del hogar 8 No 2 ADRentista de bienes propios (vivir de la renta) 9No sabe 10 11. ¿Qué edad tenía cuando ingresó a estudiar en el

SENA?AE

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 34 de 40

34

IV. PROGRESO ECONOMICO Y LABORAL12. A que dedica actualmente su tiempo:

A estudiar 1 Termine la encuestaA buscar trabajo 2 Pase a pregunta 13.A su propio negocio (independiente) 3 Pase a pregunta 14.A trabajar como empleado 4 AF Pase a pregunta 14.A estudiar y a su propio negocio 5 Pase a pregunta 14.A estudiar y trabajar como empleado 6 Pase a pregunta 14.Otra actividad distinta de las anteriores: 7 Pase a pregunta 13.

14. Actualmente su salario (o ingreso promedio- si es

trabajador independiente-) mensual es de:13. Por qué cree que no ha encontrado trabajo: (Escribir cifras completas)

No tengo la experiencia que exigen 1 $ ________________________ AHNo me satisface el salario 2No hay trabajo en el oficio estudiado 3 AG 15. ¿Los conocimientos aprendidos en el curso Otra: 4 realizado en el SENA, le han servido para su progreso

laboral?Permanentemente 1

Termine la encuesta Varias veces 2 AIRara vez 3Nunca 4

V. MERCADO LABORAL

16. Los conocimientos adquiridos en el curso 18. ¿Ha necesitado recibir capacitación adicional inme-realizado en el SENA los aplica en su trabajo: diata a la que recibió en el SENA para desempeñar

su trabajo?Permanentemente 1Varias veces 2 Si 1Rara vez 3 AJ No 2 ALNunca 4

17. ¿Para su ingreso a la empresa le exigieron 19. De acuerdo con su experiencia, qué temas el SENA el certificado del SENA? (No preguntarlo a trabajadores debe en su Curso:independientes) Incluir AM

Si 1 Complementar AN

No 2 AK Suprimir AO

VI. CRECIMIENTO PERSONAL DEL EGRESADO20. En las actividades propias de su trabajo necesitatomar decisiones:

Permanentemente 1Varias veces 2 22. ¿ Los conocimientose recibidos en el SENARara vez 3 AP le han servido para tomar mejor dichas decisiones?Nunca 4 Termine

la encuesta

Si 1

21. Las decisiones que habitualmente toma en su No 2 ARtrabajo son:

Técnicas 1Administrativas 2 AQOtras 3

(No olvide diligenciar formulario de Jefe inmediato)Observaciones:

Firma encuestado: Encuestador: Fecha:C.C.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 35 de 40

35

Anexo No. 5 SENA-Dirección General EVALUACION DE IMPACTO Dirección de Planeación Formulario para Homólogos Formulario No. 3 BHDiv. Est., Prosp. y Evaluación

Esta información es confidencial y de uso exclusivo del SENA

I. IDENTIFICACION

Nombre del establecimiento: BI

Dirección: BJ Teléfono: BK

Nombre del Jefe inmediato: BL

Nombre del homólogo: BMC.C. BN

Cargo u oficio que desempeña BO

II. INFORMACION BASICA

1.Edad: BP 4. ¿ Ha realizado estudios técnicos relacionadoscon el cargo actual?

2.Sexo: Hombre 1Mujer 2 BQ Sí 1

No 2 BW3. Indique el número de años cursados en cada nivel educativo. 5. ¿La capacitación la recibió en el SENA?

AñosPrimaria BR Sí 1 BXSecundaria BS No 2Técnico BTTecnólogo BU 6. ¿Cuánto tiempo duró la capacitación?Universitario BV (Escribir el tiempo en meses)

Meses BY

EXPERIENCIA LABORAL Y SALARIO

7. ¿ Cuánto tiempo lleva trabajando? (Experiencia 9. ¿Cuál es su salario mensual?laboral) (Escribir el tiempo en meses)

Meses BZ $ CB(Escribir cifras completas)

8. ¿Cuánto tiempo lleva trabajando en el cargo quetiene actualmente? (Escribir el tiempo en meses)

Meses CA

Observaciones:

Firma y sello empresa: Encuestador: Fecha:

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 36 de 40

36

Anexo No. 6 SENA-Dirección General EVALUACION DE IMPACTO Dirección de Planeación Formulario para Jefe inmediato Formulario No. 2 ASDiv. Est., Prosp. y Evaluación

Esta información es confidencial y de uso exclusivo del SENA

I. IDENTIFICACION

Nombre del establecimiento: AT

Dirección: AU Teléfono: AV

Nombre del Jefe inmediato: AW

Nombre del egresado: AXC.C. AY

Cargo u oficio que desempeña AZ

II. INFORMACION BASICA

1 Cuál es la principal actividad económica 2. Cuántas personas trabajan en este de este establecimiento. (Qué produce, qué establecimiento:vende o qué servicio presta?)

No. de personas BBBA

(No olvide colocar el código de CIIU en las casillas)

III. CALIDAD LABORAL Y SALARIO DEL EGRESADO

3. Teniendo en cuenta los siguientes factores: 4. El egresado SENA, inmediatamente entró en laConocimientos técnicos sobre el área de trabajo empresa, necesitó recibir capacitación adicional Destreza en la ejecución técnica del trabajo para desarrollar eficientementemente su trabajo?Calidad del trabajo realizado

Cantidad de trabajo realizado Si 1Entrega a tiempo de los trabajos No 2 BDCalidad como persona en su relación con los demás

Capacidad de comunicación mediante informes 5. En qué aspectos:Mantenimiento y conservación de equipos y máquinas

Trabajo en equipo para el logro de resultados productivos

el desempeño del egresado SENA es: BE

EXCELENTE 1 6. Actualmente el salario mensual del egresadoBUENO 2 es de:DEFICIENTE 3 BC $ BFMALO 4 (Escribir cifras completas)

III NIVEL DE PREFERENCIA PARA CONTRATAR AL EGRESADO SENA

7. Con respecto a los trabajadores que tienen una calificación técnica equivalente ¿cuál sería el orden depreferencia que usted tendría para elegir o contratar sus trabajadores en esta empresa?

(Escriba dentro de las casillas en forma ascendente de 1 a 3, siendo 1 el que clasificaría en primer lugar)

Egresados del SENA 1Egresados de otras instituciones 2 BGFormados por la práctica 3

( No olvide diligenciar el formulario del Homólogo)

Observaciones:

Firma y sello empresa: Encuestador: Fecha:

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 37 de 40

37

Anexo No. 7

N s N s N s

10 10 220 140 1200 29115 14 230 144 1300 29720 19 240 148 1400 30225 24 250 152 1500 30630 28 260 155 1600 310

35 32 270 159 1700 31240 36 280 162 1800 31745 40 290 165 1900 32050 44 300 169 2000 32255 48 320 175 2200 327

60 52 340 181 2400 33165 56 360 186 2600 33570 59 380 191 2800 33875 63 400 196 3000 34180 66 420 201 3500 346

85 70 440 205 4000 35190 73 460 210 4500 35495 76 480 214 5000 357

100 80 500 217 6000 361110 86 550 228 7000 364

120 92 600 234 8000 367130 97 650 242 9000 368140 103 700 248 10000 370150 106 750 254 15000 375160 113 800 260 20000 377

170 118 850 265 30000 379180 123 900 269 40000 380190 127 950 274 50000 381200 133 1000 278 75000 382210 136 1100 285 100000 384

Fuente: Krijcle, R. V., & Morgan, D.W. (1970). Esta tabla está basada en una fórmula publicada por la División de Investigación de la Asociación Nacional deEducación.

Nota: N: es tamaño de la población, s: es tamaño de muestra.

TABLA PARA DETERMINAR TAMAÑO DE MUESTRAPARA UNA POBLACION DADA

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 38 de 40

38

Anexo No. 8

INSTRUCTIVO METODOLOGICO PARA LA EJECUCION DE LA EVALUACION DE IMPACTO

El proceso de ejecución de la evaluación estará bajo la responsabilidad de las dependencias de Planeación Regional o Seccional en coordinación con los Centros de Formación. 1. UNIDAD ESTADISTICA El sujeto de la evaluación está constituído por: El egresado de los Cursos Largos. El jefe inmediato de los egresados que se encuentran trabajando en empresas. El homólogo en el trabajo del egresado. Dicho homólogo es un trabajador que se encuentra laborando en la misma

empresa del egresado y que reúne las siguientes características: -Que desempeñe un oficio igual al que tiene el egresado SENA (primera alternativa) o uno similar (segunda alternativa). -Que no haya realizado en el SENA un curso igual o parecido al del egresado. -En lo posible estar bajo el mando de un mismo jefe. 2. UNIVERSO ESTADISTICO Está conformado por el número total de egresados en el año de 1995 (quienes han concluído las etapas lectiva y productiva) de cada uno de los Cursos Largos, es decir, Trabajador Calificado (C.A.P.), Técnico Profesional y Tecnólogo en cada regional y seccional. El universo estadístico de los jefes inmediatos y homólogos está determinado por el número de egresados que se encuentren trabajando. 3. METODO DE INVESTIGACION Sobre el egresado: Teniendo en cuenta el número de egresados de cada curso en cada nivel de formación para el año señalado (1995), se calcula la muestra para cada uno de estos utilizando la “Tabla para determinar Tamaño de Muestra para una Población dada” , extraída de Krijcle y Morgan (1970). Dicha tabla está basada en los cálculos de una fórmula publicada por la División de Investigación de la Asociación Nacional de Educación de los Estados Unidos, la cual es la misma que se viene utilizando para Valoración de Alumnos (se anexa al final del documento). Sobre el jefe inmediato: Se entrevista a un número igual al de los egresados que se encuentren trabajando en forma dependiente, es decir, por cada trabajador que labore en una empresa se debe entrevistar a su jefe inmediato. Cuando en una misma empresa se encuentre más de un egresado, se entrevista a los jefes inmediatos de cada uno de ellos. En donde de un mismo jefe dependan varios egresados, a éste se le hacen tantas entrevistas como egresados tenga bajo su mando. En los casos en que el egresado sea trabajador independiente, no hay entrevista de Jefe Inmediato por inexistencia de éste. Sobre los homólogos: Se entrevista a un homólogo por cada egresado que trabaja, excepto en los casos en que el egresado sea trabajador independiente.

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 39 de 40

39

4. EJECUCION DE LA EVALUACION 4.1. Elaboración de listas de egresados y localización Elaborar una lista teniendo en cuenta el año de egreso (1995) y el respectivo Curso Largo, que contemple los principales datos del exalumno, como son: Centro_____________________ Curso_______________________

NOMBRE COMPLETO DEL

EGRESADO

DIRECCION TELEFONO RESIDENCIA

TELEFONO EMPRESA

OBSERVACIONES

La localización de los egresados se realizará por: teléfono, visita a direcciones encontradas o suministradas por intermedio de compañeros localizados y otras formas que permitan encontrar efectivamente a dichas personas. Si los egresados se encuentran trabajando en otras ciudades, deberá coordinarse con Planeación de la respectiva Regional para hacer las encuestas. 4.2. Recolección de la información Para tal efecto cada Regional o Seccional a través de Planeación deberá tomar los recursos dentro del presupuesto de Administración Educativa y Servicios de Apoyo a la Formación para contratar encuestadores con formación académica de nivel universitario y que acrediten algún tipo de experiencia en este campo. El adiestramiento de este personal para llevar a cabo la encuesta estará a cargo de funcionarios de Planeación de las regionales y seccionales, siguiendo el procedimiento de recolección de información que se utilizó en la Evaluación de Impacto del año anterior. 4.3. Fuentes de información La información básica para la evaluación se obtendrá mediante la aplicación de entrevistas directas consignadas en tres formularios diseñados para tal fin: Formulario No. 1 Egresados SENA Formulario No. 2 Supervisor o Jefe Inmediato Formulario No. 3 Homólogos 4.4. Numeración de los formularios En los formularios para egresado (casilla A), jefe inmediato (casilla AS) y homólogo (casilla BH), deberán ser marcadas con el mismo número en los casos en los que el egresado por supuesto

Sistema de

Gestión de la Calidad

Dirección GeneralDirección de Planeación

MANUAL DE PROCESO Y PROCEDIMIENTOS DE LA

EVALUACIÓN DE IMPACTO DE LA FORMACIÓN PROFESIONAL INTEGRAL

Fecha: Noviembre de 2003 Versión: 1 Página 40 de 40

40

tenga un jefe inmediato y un homólogo (unir los tres formularios con gancho). En los casos en que el egresado tan solo tenga jefe inmediato se marcarán con el mismo número las dos primeras casillas mencionadas ( A y AS ) de los formularios correspondientes (unir los dos formularios con gancho). En los casos en los que el egresado no tenga jefe inmediato, ni homólogo se marcará la casilla (A) del formulario del egresado. 4.5 Crítica y codificación La información consignada en los formularios deberá ser examinada por el funcionario o equipo coordinador regional de la encuesta, verificando que: Estén marcadas con el mismo número las primeras casillas de cada uno de los formularios y estén unidas con

gancho, según los casos descritos en el numeral anterior. Estén bien diligenciados los códigos de Regional, Centro y Curso en la Identificación del formulario para

egresados ( ¡ALERTA! : si estos no están correctamente diligenciados las encuestas serán devueltas a la Regional respectiva).

En la Pregunta No. 1 del formulario para Jefe Inmediato aparezca el código de la actividad económica de

acuerdo con la tabla CIIU que también se anexa, la cual debe manejar el encuestador para que pueda hacer la clasificación de acuerdo con la respuesta del encuestado.

Las respuestas correspondan con el tipo de respuesta solicitado (donde debe marcarse con X aparezcan X , donde

deben aparecer números aparezcan números, donde debe aparecer texto aparezca texto, etc.). La confiabilidad y la coherencia interna de las respuestas a lo largo de las encuestas. Una vez hecha esta crítica y codificación, cada Regional y Seccional procederá a remitir la totalidad de las encuestas organizadas por Curso y por Centro a la División de Estudios, Prospección y Evaluación de la Dirección General, para realizar las tareas subsiguientes del proceso evaluativo.