La tecnología de repetición palindrómica interespaciada de manera regular y agrupada (CRISPR) promete revolucionar las tecnologías de edición genética, lo que es transformador para la comprensión y tratamiento de enfermedades. Esta técnica se basa en un mecanismo natural encontrado en bacterias que permite que una proteína, acoplada a una cadena de ARN guía (gRNA), localice y haga cortes específicos en el genoma objetivo. Poder predecir computacionalmente la eficiencia y especificidad del gRNA es fundamental para el éxito de la edición genética.
El ARN, transcrito a partir de secuencias de ADN, es un tipo importante de secuencia biológica de ribonucleótidos (A, U, G, C), que se pliega en una estructura tridimensional. Aprovechando los avances recientes en modelos de lenguaje de gran escala (LLMs), se pueden resolver una variedad de tareas en biología computacional ajustando modelos biológicos de LLM preentrenados en miles de millones de secuencias biológicas conocidas. Las tareas descendentes en ARNs están relativamente poco estudiadas. En esta investigación, adoptamos un LLM genómico preentrenado para la predicción de eficiencia del gRNA. La idea es tratar un gRNA diseñado por computadora como una oración y ajustar el LLM para realizar tareas de regresión a nivel de oración, análogas al análisis de sentimientos. Utilizamos métodos de ajuste fino eficientes en parámetros para reducir el número de parámetros y el uso de GPU para esta tarea.
L...