Computación y MATLAB

Computación y MATLAB

23 bookmarks
Custom sorting
Cómo funciona ChatGPT
Cómo funciona ChatGPT
what ChatGPT is always fundamentally trying to do is to produce a “reasonable continuation” of whatever text it’s got so far
at each step it gets a list of words with probabilities
The fact that there’s randomness here means that if we use the same prompt multiple times, we’re likely to get different essays each time.
a model that lets us estimate the probabilities with which sequences should occur
the core of ChatGPT is precisely a so-called “large language model” (LLM) that’s been built to do a good job of estimating those probabilities.
Can we “mathematically prove” that they work? Well, no. Because to do that we’d have to have a mathematical theory of what we humans are doing.
The most popular—and successful—current approach uses neural nets. Invented—in a form remarkably close to their use today—in the 1940s, neural nets can be thought of as simple idealizations of how brains seem to work.
what makes neural nets so useful (presumably also in brains) is that not only can they in principle do all sorts of tasks, but they can be incrementally “trained from examples” to do those tasks.
The basic idea is to supply lots of “input → output” examples to “learn from”—and then to try to find weights that will reproduce these examples.
To find out “how far away we are” we compute what’s usually called a “loss function” (or sometimes “cost function”).
But which of these is “right”? There’s really no way to say. They’re all “consistent with the observed data”
over the past decade, there’ve been many advances in the art of training neural nets. And, yes, it is basically an art.
there’s the matter of what architecture of neural net one should use for a particular task.
how one’s going to get the data on which to train the neural net.
if the net is too small, it just can’t reproduce the function we want
as soon as there’s even one intermediate layer it’s always in principle possible to approximate any function arbitrarily well
How much data do you need to show a neural net to train it for a particular task? Again, it’s hard to estimate from first principles.
How about something like ChatGPT? Well, it has the nice feature that it can do “unsupervised learning”, making it much easier to get it examples to train from.
In the end it’s all about determining what weights will best capture the training examples that have been given.
But it’s increasingly clear that having high-precision numbers doesn’t matter; 8 bits or less might be enough even with current methods.
neural net training as it’s now done is fundamentally sequential, with the effects of each batch of examples being propagated back to update the weights.
there’s an ultimate tradeoff between capability and trainability: the more you want a system to make “true use” of its computational capabilities, the more it’s going to show computational irreducibility, and the less it’s going to be trainable.
this takes us closer to “having a theory” of how we humans manage to do things like writing essays, or in general deal with language.
it’s a giant neural net—currently a version of the so-called GPT-3 network with 175 billion weights.
First, it takes the sequence of tokens that corresponds to the text so far, and finds an embedding (i.e. an array of numbers) that represents these.
ChatGPT was successfully trained on a few hundred billion words of text
we can expect there to be major new “laws of language”—and effectively “laws of thought”—out there to discover.
Start from a huge sample of human-created text from the web, books, etc. Then train a neural net to generate text that’s “like this”
But it’s amazing how human-like the results are
human language (and the patterns of thinking behind it) are somehow simpler and more “law like” in their structure than we thought. ChatGPT has implicitly discovered it.
·writings.stephenwolfram.com·
Cómo funciona ChatGPT
Cómo escribir "prompts" para IA
Cómo escribir "prompts" para IA
Información sobre cómo dar indicaciones compartiendo las mejores prácticas, sus indicaciones favoritas y mucho más.
·community.openai.com·
Cómo escribir "prompts" para IA
Claude Shannon, el genial matemático que inventó la era digital
Claude Shannon, el genial matemático que inventó la era digital
Sus huellas están en cada dispositivo electrónico que poseemos, en cada pantalla de computadora que miramos, en cada medio de comunicación digital.
inventó el bit
explicó cómo comprimir y enviar cualquier mensaje con perfecta precisión
demostró que los interruptores o circuitos podían evaluar enunciados lógicos
Solía ayudar a científicos visitantes a usar el "analizador diferencial
La enorme máquina análoga usaba un sistema preciso de ejes, engranajes, ruedas y discos para resolver ecuaciones de cálculo
observó que la relación entre los interruptores eléctricos y la corriente podía imitar el proceso intelectual de la lógica simbólica y las matemáticas.
Shannon podía "hacer una investigación de primera clase en cualquier campo en el que se interese
transformó la criptografía de un arte a una ciencia
"Una teoría matemática de la comunicación
los 0 y los 1 eran estados tan claramente diferentes que, incluso después del deterioro, su estado original podían reconstruirse mucho más adelante
Shannon "se había ganado el derecho a ser improductivo
desarrolló varios modelos matemáticos para predecir el rendimiento de las acciones y los ha probó con éxito en la bolsa de valores
sufría de la enfermedad de Alzheimer.
Tenía una claridad de visión asombrosa. Einstein también la tenía: esa capacidad de abordar un problema complicado y encontrar la forma correcta de analizarlo, de modo que las cosas se vuelvan muy simples
·bbc.com·
Claude Shannon, el genial matemático que inventó la era digital
Curso introductorio a MATLAB
Curso introductorio a MATLAB
Learn the basics of MATLAB through this introductory tutorial on commonly used features and workflows. Get started with the MATLAB language and environment so that you can analyze science and engineering data.
Learn the basics of MATLAB® through this introductory tutorial on commonly used features and workflows. Get started with the MATLAB language and environment so that you can analyze science and engineering data.
Write and save your own MATLAB programs.
Call functions with multiple outputs.
Visualize variables using plotting functions.
Write programs that execute code based on specified conditions.
·matlabacademy.mathworks.com·
Curso introductorio a MATLAB
Programas de MATLAB para sistemas dinámicos
Programas de MATLAB para sistemas dinámicos
Código de MATLAB (funciones, Live Scripts y archivos de Simulink) que se utiliza en el libro "Sistemas Dinámicos en Contexto". Aunque se explica y documenta cada programa, los detalles de cada aplicación se presentan en el libro. Los programas se clasifican de acuerdo con los capítulos y secciones del libro. Para descargar y utilizar los archivos es necesario tener una cuenta de MATLAB.
·siscontexto.blogspot.com·
Programas de MATLAB para sistemas dinámicos
MATLAB - Tipos de gráficos
MATLAB - Tipos de gráficos
There are various functions that you can use to plot data in MATLAB
·mathworks.com·
MATLAB - Tipos de gráficos
Historias de clientes de MATLAB
Historias de clientes de MATLAB
Diversos casos de uso de MATLAB en empresas, centros de investigación e instituciones educativas.
·mathworks.com·
Historias de clientes de MATLAB
Historia del MATLAB
Historia del MATLAB
  1. Primera versión en Fortran
  2. Versión en C, PC-MATLAB, Simulink
  3. Control System Toolbox
  4. System Identification Toolbox
  5. Symbolic Math Toolbox
  6. MATLAB Desktop user interface
·dl.acm.org·
Historia del MATLAB
Mejores prácticas para la computación científica
Mejores prácticas para la computación científica
Write programs for people, not computers
A program should not require its readers to hold more than a handful of facts in memory at once.
Make names consistent, distinctive, and meaningful.
Make the computer repeat tasks.
Make incremental changes
Modularize code rather than copying and pasting.
Re-use code instead of rewriting it.
Optimize software only after it works correctly
Document design and purpose, not mechanics.
·journals.plos.org·
Mejores prácticas para la computación científica
25 años de historia de internet
25 años de historia de internet
J.C.R Licklider fue el primer hombre que imaginó la idea más cercana a internet. En una serie de memorandos de agosto de 1962, Licklider describia una “<i>Red&nbsp;Galáctica</i>”.
El mundo conoció ARPANET en 1972
El TCP/IP nació en 1972 de la mano de DARPA para ser una mejora significativa para ARPANET
El hombre que puede considerarse padre del internet actual es Tim Berners-Lee, un británico que trabajaba en el CERN, la organización europea de investigación nuclear. El 12 de marzo de 1989 presentó a sus jefes un informe donde plasmaba su idea para mejorar la gestión de información en el CERN, y estas ideas dieron forma a lo que hoy conocemos como la web.
Fue hasta el 30 de abril de 1993 que CERN puso el proyecto&nbsp;a disposición del público.
En el año 1993 Marc Andreesen creó el primer navegador, conocido como ‘Mosaic’,
Uno de los más importantes son los buscadores. El primero de ellos fue Archie, de la Universidad McGill, que en 1990 tenía la función de organizar la gran cantidad de direcciones web existentes.
Google, fundado en 1998.
·enter.co·
25 años de historia de internet
Así es como la IA transformará la forma de hacer ciencia
Así es como la IA transformará la forma de hacer ciencia
la IA podrá realizar experimentos más rápidos, más baratos y a mayor escala
Tendrán libertad para perseguir hipótesis más audaces e interdisciplinaria
utilizarán LLM para interpretar los resultados y recomendar el próximo experimento a realizar
Las herramientas de IA pueden reducir la barrera de entrada para los nuevos científicos y abrir oportunidades a aquellos tradicionalmente excluidos del campo.
Evaluación Crítica de la Predicción de Estructuras, una competición bienal en la que los equipos de investigación predicen la forma exacta de una proteína a partir del orden de sus aminoácidos.
A medida que la IA reduzca el costo y el esfuerzo de realizar experimentos, en algunos casos será más fácil replicar los resultados o concluir que no se pueden replicar, lo que contribuirá a una mayor confianza en la ciencia.
·technologyreview.com·
Así es como la IA transformará la forma de hacer ciencia
Sí, los modelos de IA pueden empeorar con el tiempo
Sí, los modelos de IA pueden empeorar con el tiempo
Más entrenamiento y más datos pueden tener consecuencias no deseadas para los modelos de aprendizaje automático como GPT-4
el comportamiento de GPT-4 es diferente ahora de lo que era cuando se lanzó por primera vez
"Las personas aprenden cómo inducir a un modelo para obtener el comportamiento que quieren de él"
·scientificamerican.com·
Sí, los modelos de IA pueden empeorar con el tiempo
Lo que lograron los genios de Los Álamos y Oppenheimer
Lo que lograron los genios de Los Álamos y Oppenheimer
el avance tecnológico que hizo posible el uso de computadoras para simulaciones numéricas
Los científicos se percataron de que las simplificaciones teóricas eran totalmente inadecuadas. La manera de tratar las complejas ecuaciones era resolverlas numéricamente.
En abril de ese año llegaron a Los Álamos las primeras computadoras IBM 601, calculadoras basadas en tarjetas perforadas.
origen de la dinámica de fluidos computacional
Los trabajos del matemático John von Neumann sentaron las bases para la fundación moderna de la simulación numérica.
John von Neumann pasó dos semanas cableando las computadoras y familiarizándose con los cálculos. Richard Feynmann estuvo a cargo de la codificación. Finalmente, el primer informe sobre simulación numérica fue publicado el 20 de junio de 1944.
construcción de la computadora MANIAC I en 1949
llegada de las grandes computadoras de la compañía IBM en 1953 a los Álamos
·dialektika.org·
Lo que lograron los genios de Los Álamos y Oppenheimer
Investigación y Educación en Ciencia e Ingeniería Computacional (CSE)
Investigación y Educación en Ciencia e Ingeniería Computacional (CSE)
ciencias e ingeniería computacional (CSE)
CSE performs computational experiments to answer questions that neither theory nor experiment alone is equipped to answer
CSE provides scientists and engineers with algorithmic inventions and software systems that transcend disciplines and scales.
CSE realiza experimentos computacionales para responder preguntas que ni la teoría ni el experimento por sí solos están equipados para responder.
CSE brings the power of parallelism to bear on troves of data.
CSE proporciona a los científicos e ingenieros invenciones algorítmicas y sistemas de software que trascienden disciplinas y escalas.
CSE aporta el poder del paralelismo a grandes cantidades de datos
·epubs.siam.org·
Investigación y Educación en Ciencia e Ingeniería Computacional (CSE)
MATLAB: Cómo y por qué escribir funciones
MATLAB: Cómo y por qué escribir funciones
Increase code modularity and flexibility by writing custom functions. Debug functions, set the MATLAB path, and understand function precedence to resolve ambiguity in command and function names.
·matlabacademy.mathworks.com·
MATLAB: Cómo y por qué escribir funciones
Apollo Guidance Computer (AGC)
Apollo Guidance Computer (AGC)
The AGC was the first computer based on silicon integrated circuits
The computer's performance was comparable to the first generation of home computers from the late 1970s
The computer had 2,048 words of erasable magnetic-core memory
·en.wikipedia.org·
Apollo Guidance Computer (AGC)
Diseño de Sistemas de Control Asistido por Computador (CACSD)
Diseño de Sistemas de Control Asistido por Computador (CACSD)
El diseño de sistemas de control asistido por ordenador (CACSD) abarca una amplia gama de métodos, herramientas y tecnologías para el modelado de sistemas, la síntesis y el ajuste de sistemas de control, el análisis y la simulación de sistemas dinámicos, así como la validación y verificación.
breve introducción a CACSD y revisa la evolución de los conceptos y tecnologías clave que subyacen al dominio de CACSD
desarrollo de sofisticados entornos integrados de modelado, simulación y diseño.
·link.springer.com·
Diseño de Sistemas de Control Asistido por Computador (CACSD)
Ingeniería de Sistemas Basada en Modelos
Ingeniería de Sistemas Basada en Modelos
Los ingenieros utilizan la ingeniería de sistemas basada en modelos (MBSE) para gestionar la complejidad del sistema, mejorar la comunicación y producir sistemas optimizados.
MATLAB, Simulink, System Composer y Requirements Toolbox crean juntos un único entorno para crear modelos de arquitectura descriptivos que se conectan sin problemas con modelos de implementación detallados.
Los ingenieros de sistemas pueden establecer un hilo digital para navegar entre los requisitos del sistema, los modelos de arquitectura, los modelos de implementación y el software integrado.
·mathworks.com·
Ingeniería de Sistemas Basada en Modelos